Hast du mplayer ausprobiert ?
Auf jeden Fall ist es mir nie gelungen, 1080p nur mit der CPU (egal was) glatt zu laufen.
Daher empfehle ich dringend, eine neue NVidia-Karte (es gibt sogar günstige M210 im Bereich von 30 $) mit VDPAU- Unterstützung. Sie werden verblüfft sein, wie gut es funktioniert, die Dekodierung auf die GPU zu übertragen.