¿Qué formato de audio estás enviando?, y dínos cuál aparece en la pantalla del AVR.
Por óptico solo puedes enviar multicanal en formato Dolby (AC3) o DTS, y si la configuración del soft reproductor y el de la tarjeta está correctamentente hecha, ha de aparecer el logo de uno de esos formatos en tu homecinema.
Si es así, el problema será de ajustes en el homecinema, sino, lo será de la configuración del ordenador.