Вы все верно подумали - в сторону Windows Hyper-V Server. Отличный и бесплатный гипервизор.
Но консольный - без GUI.
Если настроил и пусть себе работает-отличный вариант.
Если хотите интерфейс управления - VMWare EXSi будет все-таки поудобнее.
есть официальный docker nginx, есть виртуальные машины с linux, настройки минимальные, letsencrypt с помощью certbot получается быстро - настраивается один раз-потом просто обновляется.
Документации в сети тонны.
Да можно - самый удобный вариант это установить гипервизор и в нем создать две виртуальные машины.
Это может быть VMWare ESXI, Windows hyper-v server, либо что-то еще.
Вот варианты:
1. Не запущен ssh
2. Порт ssh закрыт правилами файрвола
3. ssh размещен не на стандартном порту
4. Вы выбираете неправильные настройки в putty
5. Нет связи\маршрутизации между машиной с putty и сервером.
6. И т.д.