Какой ИИ выбрать для чат-бота поддержки в Telegram?

Question

[ilnurjick]

Здравствуйте!
Я хочу написать чат-бота поддержки, который будет отвечать на вопросы.
Имеется база примерных вопросов-ответов, уже заготовленных.
Нужно чтобы чат-бот отвечал, определял суть вопроса.
Сейчас я реализовал все это на Google Dialogflow. Подскажите пожалуйста кто разрабатывал на нем, какие нюансы и особенности.
Также какие другие варианты реализации?
Например OpenAI и можно ли его обучить отвечать заготовленными ответами?

Answer 1

[Refguser]

Например OpenAI и можно ли его обучить отвечать заготовленными ответами?

Можно.

А можно развернуть локальную LLM с какими-нибудь опесорц моделями и не сливать данные налево и не оплачивая токенов.

Comments

[ilnurjick]

спасибо за ответ!
для этого, я так понимаю, нужно покупать платную версию
и есть ли туториалы по обучению именно вопросам-ответам?

[ilnurjick]

по поводу LLM пробовал FuzzyWuzzy и deeppavlov. На мой взгляд, выходит хуже чем с Dialogflow.

[Refguser]

ilnurjick,

для этого, я так понимаю, нужно покупать платную версию

Вроде бы да. И ещё платить за токены, насколько я понимаю.

и есть ли туториалы по обучению именно вопросам-ответам?

Я сам тут теоретик. Только пару (говно)"курсов" посмотрел и на ютубе ещё. Чисто для общего развития, тк нет реальных задач, а на игрушки я не готов тратить денег.

[ilnurjick]

Refguser, принято, спасибо за ответы

[Refguser]

ilnurjick, там, под ответом, если что, есть кнопка "нравится" :)

[ilnurjick]

Refguser, :D

[theurs]

Ответ от чатгпт-мини стоит 2 копейки. Железо на котором можно запустить убогую копию от меты стоит тысяч 5, баксов. Сколько времени оно будет окупаться?

[Refguser]

theurs, не всё так однозначно. Даже если брать только стоимость, пренебрегая безопасность/надёжностью и опуская недопустимость обработки запросов на стороне во некоторых случаях.

И кстати, для текстов не нужна даже 4090. Возможно даже 2080 на 11 Гб пойдёт
При желании/необходимости можно арендовать сервер (хотя на по-минутку) с нужным железом.


А ещё говорят, что китайцы её пропагредили до 21Гб и стоит она 500$ .

АПД, Ах. да. недавно сообщалось, что стоимость чатжпт скоро вырастит в несколько раз.
А ещё всякие санкции..

[theurs]

Стоимость джемини(флеш) в 3 раза меньше чем у гпт. У клода тоже меньше. В таких условиях поднимать цены - себе дороже выйдет.
И они все доступны севернее кореи через openrouter без наценок, ну или с наценкой +20% казаху посередине.

[Refguser]

theurs,

поднимать цены - себе дороже выйдет.

когда гуглояндексы не работают

OpenAI планирует повысить стоимость подписки к концу года до $22, а в течение следующих пяти лет до $44,

Вместе с тем OpenAI по-прежнему убыточна — в этом году она потеряет $5 млрд.

---

И они все доступны севернее кореи через openrouter без наценок, ну или с наценкой +20% казаху посередине.

Расскажи это юрикам.

[ilnurjick]

theurs, в итоге каким сервисом воспользоваться лучше на Ваш взгляд
и чем плох Dialogflow, подскажите, пожалуйста

[theurs]

Refguser, а что с юриками, им запрещено покупать услуги у казахов?

[Refguser]

theurs, приблизительно то же, что и "поднимать цены - себе дороже выйдет.".