Файловый сервер под управлением Windows - не рационально. Есть простые готовые дистрибутивы на основе Linux, созданные специально для NAS. Я, к примеру, на небольшом предприятии уже года три как использую
OpenMediaVault - очень нравится. Все просто, управление через web-интерфейс, документации хватает, надежность - очень высокая, в качестве хостовой системы - Debian. Требования к железу, естественно, минимальные.