Hola wallabi, bienvenido al foro,
El procesador que tienes es un core 2 duo de los primeros que va a 1,8ghz, lo cual es insuficiente para los videos de mayor calidad y bitrate (necesitarías subirlo a unos 2,4 ghz). La gráfica es bastante antigua y no estoy seguro de si soporta DXVA, con lo que podrías liberar al procesador de la tarea de decodificar los videos y lo haría la propia gráfica.
Podrías probar a actualizar los drivers de la gráfica y a usar un software reproductor que soporte aceleración, el Splash Lite estaría bien, porque te avisa de que si quieres usar aceleración gráfica, etc, y funciona bien.
Si no pudieras usar aceleración gráfica, te quedarían dos opciones:
1.- Hacer overclock al procesador, siempre que la placa lo permita: Ese procesador tiene un potencial de overclock muy grande, aunque de fábrica va a 1800 mhz es capaz de funcionar sin problemas a 2400, y también seguramente a 3000 (hay gente con esos procesadores funcionando a 3200 mhz e incluso más).
2.- Comprar una gráfica nueva que soporte DVXA: Una radeon básica de la serie 6000 te vale, y además te daría los 23,97 fps, con lo que no tendrías judder (con la que tienes ahora vas a tener judder sí o sí)
Saludos