Comprueba durante la reproduccion del mkv el % de uso de micro , si es muy alto es que la grafica no hace su trabajo y seria problema mas bien de la configuracion del programa que usas, prueba si quieres tambien el Media player Classic HC(no necesitas instalar ninun codec, es el que uso yo), por lo demas yo creo que tienes equipo de sobra.

Saludos..