Hola,

Para tu caso lo mejor para conectarlo al sistema de sonido seria por HDMI todo.
Es decir, tele HDMI al sistema de sonido (salida) y luego la PS3 por HDMI al sistema de sonido (entrada).
Entonces tendras en el sistema de audio conectado a la PS3 en el canal 1 por ejemplo y la tele has de ponerla en el canal HDMI y desde el sistema de audio elegir donde conectaste la PS3, que seria en el canal1.
Que no se te olvide configurar el sonido en la PS3 que va por HDMI y elegir los formatos que soporta dicho sistema de audio.
Eso en caso de que tu sistema de audio tenga para conectarlo por HDMI si no, seria de otra manera.
Siempre el imagen/sonido hoy por hoy la mejor calidad es por HDMI.

Espero que te haya aclarado el tema.

Saludos.