Виртуализация довольно обширная область, она охватывает довольно много всего — различные типы виртуализации, аспекты реализации в железе, различные архитектуры гипервизоров, виртуализированное окружение для виртуальных машин, аспекты безопасности и т.п.
Информацию о системе команд, можно найти технических спецификациях Intel и AMD.
Например, Intel Vanderpool Technology for IA-32 Processors (VT-x) Preliminary Specification, Intel, 2005
AMD64 Virtualization Codenamed “Pacifica” Technology, Secure Virtual Machine Architecture, Reference Manual.
Информацию об архитектурах гипервизоров можно найти в разных статьях. Помимо общеизвестных гипервизоров, таких как Xen,VMware,Hyper-V, KVM, существует еще куча мелких малоизвестных и представляющих академический интерес: OKL4 Microvisor, NOVA, BitVisor, TrustVisor, eXtensible and Modular Hypervisor Framework и т.п.
Например,
The NOVA Microhypervisor. (слайды из курса по
микроядерной архитектуре)