La conexión que estás utilizando es la que menos calidad de imagen te puede dar. Estás utilizando la conexión por vídeo compuesto que utiliza un RCA amarillo para señal de vídeo y otros dos (rojo y blanco) para el sonido estéreo.
Si tu reproductor de DVD no lleva conexión HDMI (digital) la que puedes utilizar con buena calidad de imagen es la que parece que si tienes... la de vídeo por componentes. También utiliza RCA para la conexión, pero en vez de utilizar uno sólo (el amarillo) para vídeo, tienes que utilizar los tres que te indica el reproductor, un cable con 3 RCA rojo-verde-azul, y otros 2 para el sonido, los mismos blanco y rojo.
En consecuencia, así como ahora utilizabas tres "cables", tendrás que utilizar 5, los tres de vídeo y los mismos 2 de sonido que utilizabas ahora.
Saludos