Если будете использоваться ZFS, например, на Nexenta, то от 8 Г рекомендую.
4 ядра.
Корпус не любой - учесть как будете вставлять большое количество дисков, нужна ли горячая замена.
Блок питания тоже не любой. В принципе современные диски много не жрут, но, с учетом ответственности, блок питания не любой.
Весь остальной бюджет - на диски, сколько хватит.
Аппаратный RAID не нужен. Nexenta и FreeNAS прекрасно программно это делают, и лучше аппаратного. Возможно нужна будет HBA, чтобы большое количество жестких дисков подключить.
В зависимости от требований скорости/емкости, возможно, имеет смысл использовать некоторое количество SSD для кэша. Все остальное - на HDD, большая часть.
Если не хотите заморачиваться с корпусом или в двойным блоком питания - просто купите готовое серверное решение от Dell, Intel, Supermicro или т.п., кто занимается готовыми серверами.