El tema es:
Tienes dos DAC el del DVD y el del Ampli.
Si sacas las señal analog 5.1 utilizas el DAC del DVD y tu ampli no detectara DTS ya que ya esta descodificado por el DVD.
Si sacas la señal por digital, entonces la conversion la hace el procesador.

Puedes probar ambas, pero casi seguro que lo mejor es sacar para cine por digital y para SACD y DVDA por analog 5.1