Я сначала прочитал "The Design and Implementation of the FreeBSD Operating System". Там тоже хорошо и интересно написано о внутренних механизмах FreeBSD.
Удалось попробовать все это на реальном железе, купив плату с ARM процессором AT91SAM9XE512. Именно на нем получилось самостоятельно настроить и запустить MMU, защиту памяти, многопоточность и работу с системными вызовами (без использования готовых ОС). Было желание написать об этом статью. Затем нашел эмулятор qemu, в котором можно сделать все то же самое, но без покупки железа.