Артём Сединин, у Вас ISO образ диска стоит от 32-хбитной версии. Вы точно не устанавливали х86 в х64 виртуалку? Да и 512мб оперативной памяти для ВМ х64 маловато, надо минимум 4Гб... иначе нет смысла ставить х64. Хотя сама ОС потреблять будет меньше.
WindowsXР x64 было 2 редакции, одна была основана на Windows Server 2003 x64 и имела самую последнюю редакцию SP2, другая разрабатывалась с нуля для процессоров Itanium... которые не совместимы с х64 от Интел/АМД. Т.е. если Вы не перепутали случайно образы то все должно быть норм.
В документации для 64-битных гостевых систем кое-какие оговорки есть. Проверьте, не Ваш ли случай: https://www.virtualbox.org/manual/UserManual.html#...
А может и ну её XP 64? Оно точно надо? (Хотя в списке поддерживаемых она есть)