- Берете язык программирования (хоть Javascript, компилированный V8), пишете, PROFIT.
- Классика жанра же: Танненбаум, Современные операционные системы.
- Работать в направлении MVP, дальше уже накручиваете свистелки. В случае ОС, это: загружается, не падает само по себе, приемлемая работа, поддерживает весь необходимый функционал (сеть, ФС, драйверы для датчиков и пр.).
Картинку с троллейбусом пока не буду прикладывать, но вопрос "Зачем, когда есть Linux kernel который под GPL2?" всё равно задам.