Господи исусе. и Вы всё это планируете делать без навыком и опыта?)) Далее идет ЛИЧНО МОЯ ТОЧКА ЗРЕНИЯ!!!
Я бы купил - последний проц на интеле i3-i5 (смотрим по бабкам), всё это в МиддлТовер(можно взять мелкий,но цена) корпус - на вдув 120мм вентиль, на проц зелман 120-140мм вентиль, на выдув 120мм вентиль)) и это чудно запихивается в любую антресоль или аналогично.
ОС ставим - дебиан(если не умеете - вин10 ltsc, тогда на винде - Hyper-V) и ставим туда KVM для виртуалок. Чут- хрень в данный момент полнейшая, хотя и есть плюсы, но минусов слишком много. проще KVM. Если не осиливаем KVM - то ставим VirtualBox
"умного дома", видеонаблюдение, медиа-плеер, веб-сервер и мейл-сервер"
Весь этот софт запросто заработает. что на PC что на виртуалке, если нужны конкретные проги - дайте знать, я дам инфу