Hola, creo que tienes un lío de concepto, te intento explicar...
Por óptico solo pasas audio 5.1, es decir, ningún formato HD de audio. Por HDMI pasas tanto audio como video, en cualquier formato actual de HD (bueno, dependiendo del tipo de HDMI que ofrezcan tus fuentes y las entradas de tu TV, pero básicamente todas admiten mínimo formatos HD).
Tu Bose solo admite conexión óptica, luego solo reproduce audio y máximo en 5.1.
En resumen, para tu caso concreto, si las fuentes son audio y video (blu ray, PC, DVD, etc) haces bien en conectarlo al TV por HDMI. Entre el TV y el Bose déjalo por óptico. De modo que no toques nada, no conseguirás mejorar y sí empeorar en el sentido que puedes perder video si entre las fuentes y el TV cambias las conexiones.
Saludos.