Делал я подобную систему дома. Комп чуть помощнее вашего. Ставил ESXI на флешку. Проброс видеокарты radeon r9 270x прошел легко, установил Windows 10. Производительность видеокарты остается такой, ну может 5% теряется. Никто никогда и не заметит если, не сказать, что это работа в виртуалке. Все как на реальном железе. Сделал вторую ВМ, поставил 2-ю дискретную маломощную видеокарту и подключил ее кабелем к ТВ, установил OpenElec, в общем просмотр фильмов стал комфортен. Да, забыл, пришлось купить второй USB контроллер и тоже его пробросить в OpenElec чтобы подключить пульт, клаву, мышь.
Потом установил 3-ю ВМ, поставил туда Xpenology, пробросил 3 HDD по 2TB. Система стала 3в1.
Так можно наплодить много ВМ, но железо чтоб пробрасывать, нужно сначала подключить, а слоты PCI-E ограничены.
Система работала стабильно на протяжении 1,5лет. Потом зачем то разобрал всю эту конструкцию, уж и не помню зачем. Установил винду на голое железо. Сейчас на Hyper-V крутиться xpenology, а для медиаплеера использую android приставку (тв без смарт)
P.S Там для проброса железа по-моему (не помню уже точно) нужны VT-d и EPT в процессоре, да потом еще и включить их в биос не забыть.
Так же очень желательна внешняя сетевая карта от Intel, по этому и говорю что мне не хватало PCI слотов.
Вспомнил почему убрал гипервизор. С какого то момента начались проблемы с ждущим режимом, монитор гас и выйти из ждущего режима не удавалось. Приходилось удаленно заходить в консоль гипервизора и перезагружать его, или тупо кнопкой ресет, когда лень в консоль лезть с ноутбука. Я грешил на гиперевизор, был просто уверен в этом. Поэтому все снес и установил винду штатно. Каково ж было мое удивление, когда все повторилось. Оказалось виновата вторая маленькая видеокарта, все было из нее. Навернулась она короче. Пришлось вынуть ее из компа и все стало норм, но второй раз мне было лень городить. Тем более что xpenology на любом гипервизоре замечательно работает, и друга взял простенькую приставку, потом купил нормальную.
В общем потестить ESXI очень легко, установить на флешку, и загрузиться с нее (кстати штатная установка) и поклацать что там пробрасывается, что не пробрасывается. И потом уже делать выводы нужно ли это Вам.