A ver si esto te puede ayudar, sigue estos pasos:

-Boton derecho sobre el icono de audio que tiene que haber al lado del reloj.
-Le das a dispositivos de reproducción
-En la ventana que te sale busca "Realtek Digital Output", ademas de ponerlo como predeterminado si quieres que el sonido te salga por la salida optica, dale a propiedades y en la pestaña de formatos compatibles selecciona DTS Audio y Dolby Digital. Y también las velocidades de muestreo que soporte tu ampli, si nó estas seguro dejalas tal cual.

Saludos!

PD: El Ac3filter lo puedes instalar sin problema alguno en tu ordenador. Yo lo he usado desde hace muchos años en PCs bastante antiguos.

PD2: Se me olvidaba lo mas importante, no sé si hay alguna manera de hacerlo automático, pero para que el audio salga en dolby digital o dts cuando reproduzco un archivo que lleva una pista en alguno de estos formatos tengo que cambiar la salida de audio en el reproductor multimedia(en mi caso el VLC media player), boton derecho sobre la imagen y en audio->dispositivos de audio->la salida optica, si lo sacas el audio por HDMI creo que pone a/52 over s pdif o algo así para que salga en multicanal. Y en el receptor audio direct.