En el 575 no puedes tener RGB y componentes progresivo simultáneamente (sería en etrelazado pero eso no afecta a tu problema) .

A mi me da la sensación que el asunto está mal enchufado . Mira, tienes 3 cables : El cable Y (verde) lleva la señal de luminancia, el Pb/Cb (azul) es la señal B-Y y el cable Pr/Cr (rojo) es R-Y . Entonces, debes de enchufar cada uno en su sitio .

Si ves la imagen verde, si bien puede ser una avería, yo empezaría por lo fácil y eso es que tienes cambiados los enchufes de algún modo o que has enchufado una salida YUV en una entrada RGB . Verifica eso primero y luego nos cuentas.