VoidVolker

Ставите любой стабильный линукс, например debian или centos там какой, ставите любой нужный вам софт, в т.ч. VPN, настраиваете и пользуете. Под файлопомойку выбирайте любой софт в зависимости от хотелок: Own/Next Cloud, Seafile или можно поставить что-то типа OpenMediaVault (можно сразу поставить из образа или из пакетов на свою ось).
Если хочется новых ощущений, то можно поиграть во фряху: FreeNAS/TrueNAS - ставится как хост, причем под саму систему надо отдельный накопитель. Зато там есть вообще всё, даже плагины со всякими торрентами, сонарами и прочими медийными и развлекательными тулзами. А еще там есть фряшные контейнеры, куда можно любой свой софт загнать, а так же поддержка виртуализации из коробки в виде виртуалбокса, куда тоже можно поставить вообще все что угодно на любой оси. И рейды там тоже всех видов есть и даже многоуровневое кэширование есть.
Ну, а если и этого будет мало, то есть такая замечательная штука под названием "pfSense" - программный шлюз и тоже на фряхе. Там тоже есть вообще все, что нужно для шлюза - хоть спам/рекламу фильтруй, хоть несколько провайдеров балансируй, хоть впн включай, да даже система обнаружения вторжений есть и антивирус с фильтрами.

ИБП есть, с двумя батареями.

Вот обеспечение качества электричества и является частью функционала ИБП, в т.ч. фильтрация помех и стабилизация напряжения. Какие-то дополнительные фильтры вам не нужны - просто покупаете стандартный качественный удлинитель в магазине серверного оборудования и используете его. Если ваш ИБП не фильтрует и не стабилизирует питание - то вам следует его заменить на качественный, который выполняет поставленные для него задачи. Если у вас в здании/серверной есть какие-то проблемы с электричеством - то вам следует решать этот вопрос с поставщиком электричества.

но периодически в серверную наведываются бухи

А с какой это такой целью они туда "наведываются"? Чаепитие устраивают? Так может столик для чаепития разместить в столовой или зоне отдыха, а не серверной? В серверную доступ должен быть через мощную взломостойкую железную дверь только у системных администраторов и в сейфе у ответственного за пожарную безопасность здания, ну и запасной ключ у директора. Всё. У остальных работников не должно быть доступа к серверной.

Судя по фото платы передней панели с ибэя - никак.

Так что лучше возьмите стандартную кнопку и просто приклейте в любом месте или через дырку какую.

Для начала выяснить какой именно процесс грузит систему и уже только после этого решать что делать дальше - перезапустить процесс, сервер, найти причину почему он так грузит - не оптимизированный запрос, пользователи, ддос, атака, взлом, вирусы, майнеры и прочее.

Любая старая память после апгрейда + Mini ITX мать со встроенным процем + нормальный БП от FSP. Как вариант - малинка/апельсинка и прочие. Для поиграться и потестить - это хватит за глаза. А серверное железо для таких задач совершенно не нужно.

Сервер через WiFi? Если для домашних развлечений - пойдет. Для работы именно как сервер - однозначно нет. Кроме того, учтите, что не серверное оборудование не предназначено для работы 24/7 и эксплуатация в таком режиме может и приводит к ускоренному выходу из строя.

Правильное решение в данном случае: арендовать сервер в ЦОД. Тема про размещение сервера дома уже заезжена и все решения и ответы давно есть - надо только поиском воспользоваться. Кратко опишу, что такое размещение серверного оборудования дома:

• существенный шум сравнимый с работающим громким пылесосом - не только от сервера, но и от ИБП
  
• необходимость выделения отдельного помещения под оборудование со своим кондиционером и вентиляцией (летом в плюс 30 сервер в лучшем случае просто уйдет в тротлинг и все зависнет, а в худшем случае просто тихо коньки отбросит)
  
• нестабильное электроснабжение - всего лишь одна линия
  
• нестабильный интернет и тоже обычно только одна линия
  
• ограниченный интернет - тарифов больше 1ГБ/с нету, да и те - даже не во всех крупных городах есть
  
• долгий простой в случае поломок - пока привезут нужную железку, пройдет от нескольких дней до нескольких недель (если конечно не несколько серверов)
  
• это выходит дороже аренды сервера в ЦОД - серверное оборудование стоит дорого и электричество тоже кушает неплохо
  

Ставится VirtualBox, далее виртуалка с любой ОС или несколько и можно с ними делать все что угодно.

Лучше для чего? Если надо больше производительности - то очевидно, что первый вариант. Второй вариант имеет смысл только если его производительности достаточно под ваши задачи, он дешевле и надо делать повышенную отказоустойчивость и/или какие-то сервисы надо разместить на отдельных серверах.

Новый райзен однозначно лучше старого сервера, кроме того памяти берите сразу 32 гига — 8 гигов хватит лишь на одну-две-три виртуалки. Так же рекомендую таки добавить еще немного и взять старший райзен. Ядра лишними не бывают.

Источник бесперебойного питания с запасом по мощности и периферию (если её нет) типа мыши, клавиатуры и монитора, еще очень желательно небольшой серверный шкаф с фильтрами и шумоизоляцией, если сервер в стандартном серверном корпусе (чтобы не останавливать сервер, когда все вентиляторы и радиаторы забьются пылью — а фильтры легко снимаются и моются), плюс несколько резервных вентиляторов и накопителей на замену в случае использования RAID, когда используемые накопители выйдут из строя. Так же, в зависимости от региона проживания автоматический увлажнитель воздуха и/или кондиционер — в жарком климате любое оборудование под нагрузкой долго не живет, а так же есть оптимальные показатели влажности для оборудования.

Нет абсолютно никакого смысла объединять SSD через дополнительный RAID-контроллер, когда существуют PCI-E SSD, которые намного более производительнее. А еще есть новые высокопроизводительные накопители из новой серии Intel 3D-XPoint - Optane, которые намного быстрее и производительнее обычной флеш памяти.

Что можно сдалть из домашнего сервера:
1) NAS;
2) Торрентокачалку;
3) Мультимедиа плеер;
4) Бэкап-сервер;
5) Сервер видеонаблюдения за парадной/подъездом/входом в дом/парковкой;
6) Второй компьютер и вывести его на второй монитор для полезных данных/кино/музыки/прочего;
7) Поставить линукс, забэкапить и отдать маме/папе/бабушке/дедушке/детям/родственнику.

Джедайская вполне схема первая.

3. блок питания рабочий

Каким образом это было определено? Были измерены выходные напряжения при включении и нагрузке? Он был подключен к другому ПК? Он был заменен на заведомо исправный БП? Все очень похоже на неисправный БП: потому что с исправным БП харды запускаются независимо от наличия материнской платы.
Сервер собирался на столе или в корпусе? При переносе в другую стойку корпус могли немного погнуть/уронить/еще чего-то и где-то что-то могло замкнуть из-за перекоса. Имеет смысл собирать на столе.