Во-первых. Существует 2 основных производителя х86_64 процессоров — это Intel и AMD. У них
совершенно разные технологии виртуализации (если не считать VIA, которая лицензировала интелловскую виртуализацию). Так что, решите, для какой платформы вообще хотите разрабатывать.
Во-вторых, как у Интела, так и у АМД есть SDM (software developer's manual) — такие здорооовые PDF'ки по 5 тысяч страниц. Вот в них можно найти практически подробнейшее описание технологии.
В-третьих. Существует множество различных видов виртуализаций: паравиртуализция, программная, аппаратная, виртуализация отдельных устройств, шин, ввода-вывода, памяти, виртуализация графических карт или сетевых устройств, шины PCI-e. И ещё чёртова куча всяких технологий. Только интелловские процы поддерживают с полтора десятка различных фич и расширений. Это всё описано у них в
мануалах.
В-четвёртых, живём в век интернета вроде, не? Разрабатывается активно несколько промышленных гипервизоров с открытым кодом. Берёте мануал на 5 тыщ страниц, открываете, например,
kvm и курите, курите. При отличных знаниях ОС, за несколько месяцев можно осилить базовый гипервизор.
В-пятых, написать гипервизор ничуть не легче, чем написать целую ОС. Т. е. нужно знать об операционных системах и железе буквально всё.
Никаких курсов вы никогда не найдёте, ибо это настолько узкая ниша, что серьёзно виртуализацией занимаются в мире всего несколько сот человек.