Exacto, el problema lo tienes en el filtro AC3. Usa el programa GOM Player para ver las pelis MKV y escucharlas en AC3 o DTS y si escuchas música, házlo con el VLC.

Ah! Conecta el PC al Onkyo por SPDIF, yo tuve asi un Onkyo 507 durante 4 años sin problemas.

Si aun así tienes pegas, es debido a la salida óptica de la placa base. En ese modo compra una tarjeta de sonido con salida de SPDIF, que las tienes muy baratas.

Best Regards