Debugger support only works with Bochs and VMWare currently. To use Virtual Box you will need to disable the debugging by setting <EnableDebug>false</EnableDebug>
Писать полноценную ОС довольно долго и в наше время нецелесообразно. Почитайте что такое проект «Оберон 2013», в рамках которого автор адаптировал ОС с графическим интерфейсом пользователя для запуска на FPGA ( ПЛИС).
C, D, Rust, Modula-2, Oberon, Ada и другие. Можно также использовать C как целевой язык.
На C, исторически сложилось, больше кода и примеров, но это не означает, что на других нельзя писать ядро ОС и драйвера.
А системные утилиты и прочее в пользовательском пространстве проще писать уже на более высокоуровневых языках чем C.
Лучше присоединяйся к проектам с открытым кодом, таким как ReactOS. Там реально помощь нужна, да и опыта наберёшься. Свяжись с координатором проекта и начинай.