Никто не будет писать литературу по внутрянке, особенно коммерческого ПО, тем более на русском.
Зато можно скачать оупенсорсный CAD (их больше одного) и посмотреть на реализацию. Но это сложно и непонятно и генерация авто-документации и зависимостей классов намного понятнее не сделает.
Обычное 3D моделирование бывает разное. Как минимум можно разделить на полигональное и параметрическое (на самом деле, так разделять не корректно, но просто для восприятия) и модель описывается либо полигонами, либо математическими поверхнсотями и булевыми операциями над этими поверхнсотями.
В твёрдотельном 3D моделировании всё почти то же самое, но с требованием замкнутости контура (и отсутствия самопересечений).
На уровне кода ничем не отличается, оптмоу что коду вообще без разницы, что ты там программируешь, разница только в алгоритмах и математических моделях :)