En teoria la mejor conexión será HDMI o DVI (igual que HDMI pero sin sonido). Luego Video por Componentes, RGB, SVIDEO y Video Compuesto (por este orden).

La resolución que obtendrás depende de la fuente (DVD, VHS, etc) no de la conexión. Aunque haya resoluciones muy altas (Alta Definición) que requieran una conexión especifica como HDMI o Video por Componentes (720 y 1080).

A mi entender, la señal que mandas de un DVD a la tele será 576p, indendientemente de la conexión que utilices, aunque si la conexión es buena tendrá menos perdidas y mas calidad.

Saludos.