Знание ассемблера крайне желательно хотя бы для отладки. Ассемблера именно той платформы под которую вы собираетесь писать ОС.
Если говорить про ядро то писать его на Си скорее всего самый удобный вариант. У вас будет и низкий уровень для доступа к железу и достаточно обстрации для манипуляции с ним.
Это если говорить про ядро.
Если говорить про окружение, то его можно писать практически на чём угодно.
Можете поковырять исходники MINIX это оперционка написана спецально для обучения писать операционки.
