Buenas, entiendo que el Bluray no va por HDMI al Onkyo porque este no tiene ese formato, así que va por óptico/coaxial.
El problema creo que viene de la salida de formato que saca el Bluray, prueba a configurar la salida digital como paso directo sin recodificar.
Otra cosa, los contenidos en DTS HD, DOLBY DIGITAL+ y DOLBY TRUE HD, sólo se transmiten por HDMI 1.3 o superior, así que por coaxial te mandará el audio reprocesado.
Salu2.