По-моему, ответы очевидны: 100% нужен ассемблер, ВОЗМОЖНО свяжетесь с Си (хотя я бы выбрал Ди). Ресурсы - документация на проц Интел (есть на любом ассемблерном сайте типа wasm.ru), немного теории операционок (защита, синхронизация, IPC, микроядра).
По времени - если только "войти в защищённый режим, обрадоваться", то быстро - час от силы. Если с распределителем памяти - долго, +1 мес. На всё остальное ещё по +6 мес каждой технологии, т.к. с каждым разом будет всё сложнее. В итоге, весь пыл проходит месяца за два. :)
Вам имеет смысл попробовать QNX - там уже много чего написано, причём коммерческого качества и проверенного временем. Да ещё POSIX совместимая. Но там ужасная IDE с ужасным С++. Зато GUI уже написаны. :)
Ещё один интересный вариант - COSMOS:
www.codeproject.com/Articles/220071/Csharp-Open-So... - OS на C#
