ИИ в строительной отрасли, какой выбрать?

Question

[Munormae]

Всем привет. Я BIM-менеджер в строительной компании, занимающейся проектированием нефте-газо-химической промышленности.
Есть безумная идея - внедрить ИИ ассистента, с которым не только можно было бы пообщаться на профильные темы, но и использовать его для формирования различного рода таблиц и текстовых документов, подключить его через API профильного софта для взаимодействия с 3D моделями(в том числе и моделировать с помощью команд в чат и выполнять чертежи на основе модели).
В целом у меня уже состоялось два более менее удачных прототипа с ChatGPT, но к сожалению он не дает подключить по API кастомные модели, а за вычисления на стандартных моделях требует много титимити, которые к тому же без дообучения плохо тянут такие задачи.
Я стал изучать тему локальных моделей, которые можно было бы развернуть на собственных мощностях и уже работать с ними, где то дообучая, где то притягивая датабазу. Но встал в тупик, какую модель можно выбрать для таких задач? Попробовал Мистраль, но она слишком тупая на фоне чатгпт, новый дипсик требует каких то невероятных мощностей для вычислений и если общатся с ним на русском то он предлагает мне купить кроссовки, лол.
Может более опытные коллеги посоветуют что нибудь, вряд ли ответ лежит на поверхности. Сейчас присматриваюсь к лама3.3 или может даже лама3.1.

Comments

[maksam07]

которые можно было бы развернуть на собственных мощностях

Но встал в тупик, какую модель можно выбрать для таких задач?

новый дипсик требует каких то невероятных мощностей

Интересно узнать, на какие мощности вы рассчитываете? Еще учитывайте, что одновременно может быть не 1 запрос, а десяток, где мощностей может потребоваться многократно больше. От тех же мощностей еще зависит и скорость обработки информации, если ожидание в ~10 минут вас устроит, то "суперкомпьютер" вам уже не нужен.

[tukreb]

Хотите что-то уровня ChatGPT, тогда вам только
https://huggingface.co/deepseek-ai/DeepSeek-R1/tre...

И видеокарты с общем VRAM на 1024 ГБ/1 ТБ
Ничего лучше Deepseek сейчас нет в открытом доступе. И да уровень ChatGPT, требует огромных мощностей.

А вообще если не хотите сесть в тюрьму за непреднамеренное убийство, то забудьте про ИИ.

[Василий Банников]

Лично я бы побоялся использовать языковые модели для проектирования зданий.

А вот для написания запросов к базам и поиска информации в документах еще ок тема.

[Komrus]

Я тоже с огромным интересом смотрю на все эти LLM и подумываю -
"куда бы их в бизнесе пристроить?"

НО!
Даже простейшая задача, типа:
по итогам очередного обсуждения с Заказчиком спецификация (в Excel'е) поменялась и надо в предоставленную Заказчиком Word'овую "рыбу" договора вставить новые суммы/графики платежей

Промпт для интеллекта системы "не первый день работающая секретарша" звучит как "вот тебе 2 файлика - циферки вставь в договор" :) И в общем-то - сама найдёт куда, вставит/подправит...

Как это на данном этапе развития объяснить ChatGPT - я даже боюсь подбираться к такой задаче...

Answer 1

[rPman]

у меня уже состоялось два более менее удачных прототипа с ChatGPT

Не знаю что у вас там состоялось, но в вашей области ИИ может помочь только с болтологией.

Его никто не обучал вашей задаче, finetuning НЕ ОБУЧАЕТ новым задачам, позволяет изменить способ общения и фокусирует работу на тематике, но чаще ЛОМАЕТ модель, ухудшая ее работу.

Локальные модели есть шанс в приниципе обучить на ваши узкие задачи (скорее всего нет) но на это потребуется ресурсов на порядки (несколько, не один) больше чем ваша работа в принципе.

p.s. большие и опытные команды делают из ИИ отличные поисковик по неструктурированным базам данным, причем в общем смысле, у некоторых получаются даже сложные кроссмысловые запросы. Пока это лучшее использование бизнесом ИИ (вангую будет и с программированием что-нибудь интересное), за исключением генерации мусора.

spoiler

посмотри в телеграме llm_under_hood он публикует разные тесты в своем приватном бенчмарке, направленный именно на использование в задачах бизнеса, будет из чего выбрать какой моделью пользоваться, у него есть сайт где удобнее смотреть но я его забыл а найти его в чате сложно, человек в маркетинг не очень ;)

Помним! что лучшие текстовые модели НЕ мультимодальные, они обучались и умеют работать ТОЛЬКО с текстами, пространственные смыслы у них на зачаточном уровне (но рост коллосальный за этот год), продвинутые тесты на сколько я помню даже дорогая o1 модель проходила на 20%... это должно вам намекнуть что в лоб ваша задача не решается.

p.p.s. сформулируйте вашу задачу строже, не абстрактно - 'решать мои задачи', а конкретизируя эти задачи, сформулируйте как вы их решаете, в своей голове

Если все же нужно что то пилить, то как это с разработкой, разделяйте на подзадачи и решайте каждую по отдельности, ИИ тут тоже есть где притулить, но это будет не задание-результат а сложоаня агентная система взаимодействующих классической логики и ИИ

Comments

[Munormae]

Прототип он на то и прототип, мне удалось прикрутить чатгпт прямо в интерфейс Tekla Structures и использовать его не только как справку, но и обращаться к API что бы выполнить простейшие построения. Подобные решения я видел и у других энтузиастов, но они продают это уже как коммерческое решение, где нейронка успешно справляется с заполнением параметров в модели по запросу в чат и т.д.
Не языковые модели и специально обученные под конкретную задачу, вроде FEMnet(гениальная разработка, но к сожалению сыровата), конечно покруче будут, но основная задача сейчас оптимизировать работу с нормативной документацией и с формированием уже своих документов под проекты(с этим в общем то и чатгпт справляется, но хотелось бы иметь более локальное и узкозаточенное решение, желательно с последующей интеграцией в профильный софт для того же заполнения параметров, генерации таблиц этих параметров и элементов модели)

[rPman]

API профильного софта для взаимодействия с 3D моделями

все зависит от функционала этого софта и требований к построению запроса.

llm-ки могут помочь из естественного языка собирать api запрос, но при условии полноты данных, это важно, иначе ИИ допридумывает, а вы не заметите

Answer 2

[Евгений Орлов]

Вопрос в меньшей степени лежит на стороне выбора модели (хотя это тоже), тк ни одна модель сейчас не способна взять одну большую задачу и решить ее от начала и до конца. Даже чатгпт и прочие большие коммерческие модели с наилучшим качеством ответов.
Основное - это выделить четкие границы, в которых будет проводиться работа
Если составляем документ, то что на вход? Какого формата? Какие этапы обработки? Что на выход?
И так по любой вашей инициативе. Лишь разложив процесс на мелкие составляющие и максимально упростив каждый из этапов для ЛЛМ, уже можно пробовать собрать пайплайн, который с бОльшей вероятностью приведет к успеху.
Также, крайне важным составляющим успеха является технология Structured Output, которая помогает доставать из модели более детерминированные ответы и улучшать ответы даже маленьких моделей за счет того что мы можете направлять модель в какую сторону ей нужно думать

Answer 3

[mayton2019]

но и использовать его для формирования различного рода таблиц и текстовых документов,

Разумеется можно формировать любые таблицы и документы. Только к ним нужно
относится с большим подозрением и проверять все в том числе и цифры.
При таком double-check я думаю что ИИ автоматизация теряет смысл.

Уж лучше формировать отчетность теми средствами как вы делали раньше.

А AI можете использовать для генерации писем.