Hola Aztharok,
El NOX NX80 no es silencioso

, ese ventilador no es muy ruidoso pero su flujo de aire es muy pobre, hay opciones mucho mejores. Como ventiladores de 12cm de máxima calidad tienes los Nidec/GentleTyphoon y los Silent Wings 2.
Realmente el equipo que tienes te puede valer bien como HTPC, el comprar uno nuevo o reutilizar ese depende de lo que te quieras gastar más que otra cosa. De montar algo nuevo, si no vas a jugar con el HTPC, podrías comprar una APU Intel, que será más eficiente y no necesitarás poner VGA dedicada.
Para el disco mecánico es mejor el WD Green, tanto por consumo como por ruido, te recomiendo leer esto:
ENLACE
Por los SSD no te preocupes con el espacio porque se puede poner en cualquier sitio con unas bridas, al no tener partes mecánicas lo puedes poner incluso que no esté horizontal.
En el sistema operativo, tanto linux como Windows son válidos, y aunque puedes usar VLC, lo ideal es un programa que te ajuste automáticamente la frecuencia de refresco, con lo que MPC bien configurado te valdría, pero es que XBMC ofrece muchas cosas interesantes que pocos programas dan.
El PLC es una buena opción, pero no esperes que vaya igual de bien que un cableado de red UTP.
Saludos