fluttershy174
@fluttershy174
Сисадмин и Фотограф

Существует ли аналог GPTs?

Существуют ли на данный момент аналог механизма от openAI который позволяет так же загружать свои документы в базу знаний нейросети и настраивать ее поведение (сотрудник поддержки, оператор, бухгалтер)

Пытался найти что либо по локальным LLM вроде методов ROG, finetuning но не нашел комплексных или полных инструментов для этого дела
  • Вопрос задан
  • 1113 просмотров
Пригласить эксперта
Ответы на вопрос 3
Alex_Geer
@Alex_Geer
System Engineer
Есть языковые модели доступные для установки. Но они все будут требовать обучения, а так же они будут очень требовательны в качестве железа.
Локальные GPT нейронный сети — устанавливаем на до...
Ответ написан
Комментировать
Vindicar
@Vindicar
RTFM!
Не, ну ты можешь поиграться с AnythingLLM для реализации RAG и каким-нибудь ПО для собственно запуска языковой модели (Jan или что-нибудь ещё на базе Ollama).
Но сразу скажу, у меня не вышло добиться толку.
Ответ написан
Комментировать
@rPman
Мне кажется рановато искать ГОТОВЫЕ решения В ОТКРЫТОМ доступе на эту тему. Народ только только пилит все это.

И да, открытые и доступные llm-ки могут быть не достаточно сильными, чтобы успешно отрабатывать данную задачу. Зачем вам поисковая система, которая будет косячить в 10% случаев? 20%? 30%? причем в обе стороны, т.е. не только выдавать не нужное, но и пропускать нужное

p.s. из-за ограниченного размера контекста, других вариантов кроме как - определить по запросу пользователя, какие ему нужны документы и докинуть саморизацию их в контекст, нет. И это плохо работает.

Лучше работает, если по каждому вопросу в контекст засовывать документ (или пробегать по абзацам/главам) с тщательно сформулированными дополнительными вопросами (их создание и есть разработка такой системы) ответы закидывать контекст беседы с клиентом. Как минимум использование гугло поиска на основе разговора - работает (проблема только выбирать, что читать,.. много - дорого, мало - недостаточно информации)
Ответ написан
Комментировать
Ваш ответ на вопрос

Войдите, чтобы написать ответ

Войти через центр авторизации
Похожие вопросы