Вы, кажется, не совсем понимаете, что такое ОС на базе Debian. Это, как минимум, 3 семейства ОС - Hurd, kFreeBSD и GNU/Linux.
Если говорить про GNU/Linux Debian (который вы подразумеваете, скорее всего) - то он написан на всем подряд. Ядро - на достаточно специфичном С, userspace, в основном, на C/C++, python, perl. Ну и куча спагетти в виде shell-скриптов, чтобы всё это вместе работало (ну по крайней мере, пока они на systemd не перешли).
Если говорить про то, "как собрать свой собственный дистрибутив на основе GNU/Linux Debian" (допускается и такое, Убунта так и появилась), то там особенных знаний в программировании не нужно - сиди себе пакетики забивай в конфиг, да записывай это на USB/CD.
Литература - The Linux Kernel Module Programming Guide (если речь про ядро), любая книжка про python/perl/C, если говорить про userspace. Впрочем, не забывайте про "в основном" - пишут то на всём подряд.
На АСМе давно уже никто ничего, кроме C-компиляторов, не пишет. Компиляторы и интерпретаторы Python'a написаны уже на C.