La Wii no tiene salida HDMI? Sería lo más comodo, pero intuyo que no la tendrá.
No es que estés haciendo nada mal, de hecho la conexión por analógico en AV5 es correcta. El problema es que ese AVR no saca por HDMI la señal que le entra por analógico, por lo que para poder verlo en la TV si la entrada es AV5, tendrías que sacar la señal de vídeo (amarilla) por el output AV OUT o Monitor Out y tirar un cable RCA desde esa salida a la entrada de vídeo por RCA de la TV.
También puedes conectar sólo el audio (rojo y blanco) por analógico al AVR (AV5, AV6, Audio) y desde la Wii tirar el RCA de vídeo (amarillo) directo a la TV.