Hola reydarvi,

Yo creo que algo así podría ser lo que necesitas:

Placa + procesador: ASRock Q1900-ITX
Ram: 4GB Kingston KVR16LS11/4
HDD: WD Green de 2, 3 ó 4TB (en función de tus necesidades)

Caja no dijiste si ya la tenías o no.

Por unos 232,51 € (disco de 3TB) lo tienes en casa.
Seguro que comparando precios en distintas tiendas lo puedes tener por menos.
Si los datos van a circular sólo por tu red local, no necesitas tener Internet para nada (siempre que ya tengas el contenido dentro de tu red en algún equipo, jeje)

Sobre qué sistema operativo poner, pon con el que te sientas más cómodo a menos que te apetezca probar otro. Yo tengo Linux en el HTPC porqué para mí tiene algunas ventajas, pero haría exactamente lo mismo con Windows.

Un saludo.