Как создать бота ChatGPT с обучением только на своих данных?

Question

[Олег Петров]

Можно ли создать условного chat gpt, который будет обучаться только не тех данных, которые ты сам ему дашь ?
Сейчас в chatgpt много мусора и выдумок, если даешь ускоспецилизированные запросы
Например я интересуюсь китайской медициной, но буду давать давать ему только данные из своих проверенных источников

Answer 1

[Алексей Уколов]

много мусора и выдумок

Это следствие не только плохих данных, но и самой сути генераторов текста - они не понимают, что пишут в целом, а просто добавляют одно слово за другим. Какие бы вы данные ему ни скормили, от галлюцинаций вам не избавиться, так что задача, в принципе, не решаемая.

P.S. Словосочетания "проверенные источники" и "китайская медицина" можно в одном предложении использовать, только если вы пишете стендап на научнопопулярную тему.

Comments

[Drno]

PS китайская медицина работает тысячелетиями, и местами лучше чем обычная. Особенно в плане болезней, которые врачи считаю «неизлечимыми»

[Алексей Уколов]

Drno, не нужно, пожалуйста, распространять лженауку. Особенно в части "врачи считают неизлечимыми" - Стив Джобс уже так долечился, например. И тысячи других, менее известных людей, ежегодно идут, к сожалению, к шарлатанам вместо лечения. Гомеопатию - пожалуйста пейте сколько влезет, пока сахар из ушей не посыпется, а вот опасной лженауке не место в приличных сообществах.

[Олег Петров]

Алексей Уколов, Одно другому не противоречит. =) Сочетаем старые и новые знания. В Китае кстати сейчас именно так и делают. Используют новые методы и их традиционный подход в медицинских учреждениях.

[Drno]

Алексей Уколов, это не лженаука. Это не относится вообще к разделу науки.
Это относится к традиционной народной медицине. Так же как есть травники или русская народная медицина.
И в большинстве случаев они отлично работают и помогают там, где врачи говорят «не лечится».

Момент состоит в том, что надо понимать - какой из вариантов медицины надо использовать в тот или иной момент.
Наилучший подход дают сочетания обычной и традиционных медицин.

Если ты по каждому чиху будешь пить парацетамол с антибиотиками - организм у тебя офигеет.

А если лайтовые вещи будешь закидывать хинином в перемешку с вит С, медом черной смородиной, имбирнм и чесноком - организм не привыкнет к антибиотикам.
А это между прочим традиционная медицина

Так что называть ты китайскую медицину можешь как хочешь, но факты что она тысячилетиями вылечивает людей останется фактами.

Так же как и биополя и энергетика всего живого - то что ты в это не веришь, не значит что этого нет.

Чтобы традиционные варианты давали результаты, надо понимать что лечить надо не только «оболочку», но и «дух».

Потому что серьёзные болезни происходят в первую очередь на энергетическом уровне, а только потом переходят на тело.
Это тоже уже проверенные факты, просто врачи это отрицают, потому что не понимаю и потому что бабки и огромный бизнес

[rPman]

они не понимают, что пишут в целом, а просто добавляют одно слово за другим

не все так просто

llm каждый раз генерируя очередной токен, выбирает его соответственно внутреннему состоянию всей нейронной сети, которое с некоторой натяжкой и можно считать пониманием.

Предлагаю эксперимент, берешь ответ LLM (вместе с вопросом) обрезаешь его на любом месте, добавляешь одно любое свое слово в конец и подсовываешь полученный бутерброд в качестве входа нейросети заново (рекомендую использовать сырые сети а не проекты, добавляющие к пользовательскому промпту еще свои) и наблюдаешь, как нейросеть изворачивается, пытаясь (и это получается) ответить на исходный вопрос с учетом твоего токсичного вмешательства. Так как природа генерации llm случайна, эксперимент нужно проводить многократно чтобы можно было увидеть закономерности.

у LLM внутри есть 'понимание', но оно однозначно не человеческое, его нельзя просто сравнивать с нашим и в нем очень многое зависит от промпта и тюнинга весов входящих токенов (токены на вход нейросети подменяются векторами значений, их можно тюнить точно так же как тюнятся все веса сети, есть алгоритмы улучшающие работу сети, меняющие это, смотреть peft) и самое главное, любые совпадения в поведении ИИ с человеческим - не случайны, мы модель так определили - чтобы она пыталась найти закономерности в нашем поведении через наши тексты.

[Алексей Уколов]

rPman, вы правы. Я сильно упростил и сгустил краски, чтобы у автора вопроса не было ложных надежд. По
уровню постановки вопроса видно, что задача решена не будет :)

Answer 2

[rPman]

Над решением задачи галлюцинаций на текущий момент работают лучшие умы планеты, красивого решения нет но специалисты из OpenAI говорят что считанные годы и проблема будет решена.

В идеальном случае тебе действительно нужно подготовить идеальные данные. Но к сожалению, особенность нейросетей такова, что помимо верных данных, тебе нужны граничные с ними неверные. Именно неверные данные (помеченные как ошибочные, в терминах llm например спец токеном или встроенным в алгоритм механизмом, либо давать группу токенов которые текстом будут сообщать об ошибке или отсутствии информации) позволят нейронной сети давать верные ответы.

Это особенность любых нейросетей можно представить так, твои обучающие данные это точки, которые ты в слепую бросаешь на ось, а область верных утверждений это отрезок. Если ты будешь пытаться определить отрезок 'бросая' только точки внутри отрезка, алгоритм сможет проводить разделение верно/неверно в любом месте за пределом этих точек, ведь любой такой вариант будет непротиворечив. А значит когда нейросеть попадет в ситуацию, не прописанную напрямую в обучающей выборки (то чего ы и хотим добиться) она будет предлагать варианты за границей нашей реальной правды, думая что линия правды дальше

Comments

[Олег Петров]

Интересный ответ. В целом понял. Задача в подготовке данных - это самое сложное.

[rPman]

Олег Петров, не обязательно это решение

собственно алгоритм построения LLM взлетел потому что работал с ПЛОХИМИ мусорными данными и сумел из них вытащить что то полезное

Answer 3

[Andrey_Epifantsev]

Вроде как параллельно с работой над ChatGPT, который в качестве исходного датасета использует разные данные накачанные с интернета кто-то разрабатывал аналогичную нейросеть только на основе научных статей. И в результате та нейросеть не взлетела. То ли там были запредельные галлюцинации, то ли неполиткорректность.

Comments

[Олег Петров]

Интересно даже почему так? А может просто ответы были скучны для массового пользователя?