Еще одно уточнение, ESXi 5.0 (кстати с каким апдейтом?) у тебя установлен на физический сервер, и в нем тебе необходимо запустить W2k8 64bit? или же уже в винде поднимать дополнительно виртуалки?
Если в первом варианте то проблем быть не должно, проверь версию виртуальной машины которая создается (Virtual Machine Version: "например 8") на этапе создания виртуалки.
И какие ошибки у тебя показывает?