Prueba con XBMC Gotham (beta4), eso ocurre en algunas películas (las codificadas en VC-1 por ejemplo) y las GPU de Intel. En Gotham está solucionado. Si no quieres instalar betas (es bastante estable, la verdad), prueba quitando el DXVA en las opciones de XBMC.

Un saludo.