CityCat4

Начать надо с того, что Proxmox - не система виртуализации :) Системой там является KVM, а Proxmox - среда управления.
Альтернатив как правило две - Vmware ESXi и Microsoft Hyper-V. О плюсах, минусах, сравнениях и всем-всем-всем есть тонны материалов в гугле - сравнение ESXi и Hyper-V может вызвать лютый холивар, сравнимый с Linux vs Windows (и собственно частично им и являющийся :D )
Обе enterprise-grade
Обе стоят денег (в нормальной конфигурации)
У обеих есть достоинства и недостатки

Я в итоге запихал все в виртуалки и купил бу сервер - настоящий, на серверном железе, поставил там железный рейд, десятку на raid-edition винтах.

Когда мне понадобился хост для дома - поставил вообще на то, что было, как в песенке фактически "я его слепила из того, что было". Обычная мать от гигабайта. Обычный проц от интела. Памяти - 16 гиг, сетевки - обычные, дрова впилил потом.
Несколько лет этот суперкорабь тащил AD, файлопомойку, пару тестовых виндомашин, прокси-почту-веб...

Гипер поставить на SSD, в настройках указать, чтобы своп гипера и память ВМ хранилась на SSD. HDD отдать под файлы ВМ - пусть гипер сам его разметит, как посчитает нужным.
Если на матери сервака есть разьем USB - сейчас многие так делают - то поставить туда небольшую флэшку, гипер накатить на него, логи, своп гипера и память ВМ - на SSD

меньше проблем с хост-системой от различного ПО, интернет-червей, скриптов и т.п.;

Задача нерешаема. Виртуализация от этого не спасает и предназначена вовсе не для этого.

простота бэкапа виртуальных машин(если потребуется)

Бэкап самих ВМ предполагает значительные обьемы хранилищ, потому что простяцкий бесплатный софт обычно дедупликацию скажем не умеет, а без нее счет может пойти на десятки терабайт.

Не слушайте Вы этих советчиков, у которых никогда нормального сервера не было :) Сервер для задач сервера работает куда лучше, чем десктоп. Даже БУ. Ему не нужно моднявое видео - у него оно встроенное, да и то не будет использоваться - iLO решает. Ему не нужно модняывй кулер - у него их в комплекте шесть штук, не меньше. Ему не нужен моднявый корпус - у сервера как правило корпус 1-2U (зависит от количества дисков).
Единственное, на что обратить внимание - на поддержку SmartArray 410 в vmware (если ее будете ставить). vmware просто в упор не видит софтовые рейды и возможно лучше будет поменять его на адаптек. Ну и дисков я в спецификации не увидел - а они отожрут половину бюджета.
Для умнечегов - у меня как раз дома сервер есть:

2xXeon E5620 (4 cores, 16 logical cores)
24G RAM
Adaptec RAID 5405
4xSeagate ST2000NM0008 2Tb (RAID10 4Tb)

Брал год назад за 60 тыс. в ittelo.ru Доволен, как слон.

Если шифрование ключом, который Вы приносите на флэшке с собой - то для AES-256 вполне надежно. Если ключ хранится "хрен знает где" - и надежность будет "хрен знает какая" :)

Сейчас по-моему у всех такие винты, что лишние плюс минус 100G вообще рояля не играют. Поставьте диск, который занимает только реально занятое место, а размер ему хоть какой можно прописать.

Попробуйте конвертер от Starwind