Me parece haber leído por ahi que por coaxial y óptico, como mucho pasa Dolby Digital o DTS. Los formatos de alta definición como DTS HD o Dolby True HD necesitan el cable HDMI para ser reproducidos, a no ser que tu blu ray tenga salidas analógicas para el sonido multicanal. Si este fuera el caso , yo lo conectaría por analógico el blu ray al ampli y el que descodificara el sonido HD seria el blu ray.
De todas maneras como opinión personal. La diferencia del sonido en DTS a DTS HD tampoco es tan impresionante como para rallarse con el tema.Aun teniendo unos altavoces de gama media alta, la diferencia no es tanta.
Conectalo por coaxial y a disfrutar.