Teóricamente deberías conectar la salida HDMi del AVR al dispositivo transmisor. No dices qué AVR tienes
Es un coñazo, pero primero deberías comprobar que el conjunto AVR+Nvidia sacan la señal que tú quieres y como la quieres al Epson por cable, y una vez tengas esto configurado, meter en medio el WirelessHD que trae, por si el problema de configuración no tiene nada que ver con la transmisión inalámbrica de los datos.