Lo primero, como dice viper69, comprueba que la señal de audio es Dolby (AC3 5.1) o DTS.

Si son así y solo obtienes estereo (PCM) debe ser porque la fuente (el Iomega) descodifica el Dolby al formato PCM y como este solo lo puede ir en estéreo por la salida s/pdif (coaxial en este caso), pues así es como te llega.

Para evitar que descodifique el Iomega, marca en su Configuración de Audio Salida S/PDIF RAW. De esta manera llegará el archivo tal cual es y el Yamaha lo descodificará obteniendo un verdadero 5.1

La conexión por HDMI que se te sugería, en tu Yamaha, no permite enviar el sonido al AVR pues su HDMI es de tipo switcher o conmutado, no repeater. Igualmente puede que no tenga sentido pasar las conexiones de video por el AVR, dado que no mejora su calidad, si la TV tiene entrada HDMI, mejor enviar la señal de video directamente desde el Iomega al TV por HDMI, sino tiene HDMI, conectar las salidas analógicas de video (componentes) al TV también directamente.