Si es 720p reales deberías poder verlo a través del reproductor de la x360 (en la pestaña multimedia), yo veo sin problemas los trailes esos HD que hay por ahí colgados, pero sólo esos porque el reproductor no reescala ni a 720p ni a 1080i.
Sin embargo, esa conexión tan rara que dices puede ser la que estropee la señal, aunque VGA a 720p no debería darte problemas...
EDIT: supongo que estarás probando un archivo de video compatible con Microsoft (no divx ni cosas raras) o un archivo de video/dvd...si no no podrás verlo en HD.
EDIT2: creo que por el momento, lo único reproducible en la x360 en HD (a 720p o 1080i) son los archivos WMV HD
No sé, que venga El Oráculo de Delfos a ver si te puede iluminar más.