En tu situación, si el lector BR tiene salidas analógicas multicanal podrás conectarlas a las entradas respectivas del AVR, así oirás esos formatos.
Si no tiene esas salidas la opción es conectarlo por óptico, configurado como bitstream, solo llegará el núcleo de esos formatos HD, que como ves tiene un menor bitrate pero, aún así, de mayor calidad que los Dolby o DTS al uso en los DVD SD.