dmtrbskkv
@dmtrbskkv
Кодим и декодим, а иногда кино смотрим

Можно ли создать аналог my gpts с загрузкой производных файлов через API open AI?

Нужно создать модель или нечто иное, которое будет принимать в себя файлы типа PDF, смотреть в них и давать ответы на основе их содержимого. Assistant API при просмотре файлов очень дорого стоит. Поэтому хотелось бы что-то иное, если есть. Fine tuning не подходит, ибо все файлы в формате PDF и нет возможности выбрать контекстные диалоги
  • Вопрос задан
  • 59 просмотров
Пригласить эксперта
Ответы на вопрос 1
@rPman
В общем случае скорее всего нет.
Лучший gpt у нас у openai, ему на пятки наступают anthropic claude и google gemini (их нормальные модели не доступны бесплатно, а от гугла еще и очень в ограниченном количестве стран, и формально все они не доступны в России). По деньгам они будут сравнимы.

Если брать готовые модели, они могут оказаться тупо дороже (с оговорками про свое железо но добыть по адекватным ценам это не просто) и главное, открытые модели (с доступными весами) в разы слабее.

https://chat.lmsys.org/?leaderboard выбирай

К сожалению ни одна из адекватных доступных моделей не является мультимодальной, т.е. не сможет принимать на вход pdf файл или изоброжения, а значит адекватного ответа универсально с их помощью не получить. Это значит, pdf файл необходимо преобразовать в текст и это большая проблема, особенно для русского языка. Таблицы, графики, все это проблема, которую не решить простыми способами но по отдельности возможны разные варианты (очень не простые).

Так же проблема открытых моделей - маленькое контекстное окно (llama3 - 8k токенов, только очень маленькие pdf файлы можно в них поместить). А раз не помещаются в контекстное окно, значит потребуется самморизация и деление на части, в общем когда доберешься до конца, итоговый результат будет низкого качества.

p.s. такие решения на сколько я знаю пилят с переменным успехом, и универсального решения точно не будет.
Ответ написан
Ваш ответ на вопрос

Войдите, чтобы написать ответ

Войти через центр авторизации
Похожие вопросы