Windows - проприетарная (закрытая) операционная система, поэтому открытой документации о том, как она работает внутри - нет.
Есть общие сведения, есть документация об открытом API для разработчиков под Windows.
Есть отдельные описания работы разных подсистем, но опять таки не изнутри.
Реестр - это проще некуда, просто иерархичный набор данных в виде ключ=значение, который используется для централизированного хранения разных данных. Список всего что есть в реестре не документировался, есть известные ключи, есть все остальные.
Реестр используется как место для хранения различных настроек и данных как для самой системы, так и для приложений. Есть и плюсы и минусы хранения данных в реестре или в файле.
Чтобы узнать как работает windows очень глубоко изнутри есть два пути - стать мегахакером, экспертом реверс-инженеринга, или устроиться в Microsoft писать ядро системы. Но это займет годы, поэтому не стоит задавать вопросы на тостере, на которые нельзя дать простой ответ. Уточняйте потихоньку.
Основы работы многозадачности, ntfs и прав доступа, версионность и типа Windows систем вполне можно почитать даже в википедии.