Prueba tal cual la tienes configura la PS3 y en el AVR el HDMI Audio Out en On.

Si no funciona, pon la salida HDMI del PS3 en PCM.