все в кучу однако намешали.
во первых стоит различать Solid и MESH модели. Первые дают точный объем "сложной фигуры". Вторые как бы нет, т.к. состоят из полигонов. (т.е. модель как бы пустая внутри в отличии от SOLID).
в инженерных CAD используются SOLID моделирование как правило , и "да" используя какую либо инженерную CAD Вы сможете получить объем фигуры. возможно у этой CAD есть API.
навскидку можно засоветовать OnShape - это онлайн CAD c API ( бесплатный только для открытых моделей, видных всем).
во вторых , подсчет объемов очень сильно зависит от что есть "сложная фигура". Вы можете на каком нибудь Three.js написать сервис, где можно вытягивать , к примеру стены из прямоугольников, и там же считать объем.
вообщем , вариантов масса, необходимо уточнение задачи. что нужно строить, что нужно юзеру , в какой среде это будет работать, необходимая точность и так далее.