Как сделать, чтобы AI меньше фантазировал в своих ответах?

Question

[forthuse]

Пользуюсь сеткой https://poe.com/Sage
так бывает достаёт, что на известные факты и информацию представленную,
к примеру, и Википедии выдача нейронок неправильная Ещё постоянно выдаёт нерелевантные ссылки.

P.S. https://phind.com выдаёт более релевантные результаты.

Comments

[kaktak255]

Должны быть параметры, есть что то вроде температуры, и еще много всего, это все и настраиваешь

Answer 1

[rPman]

Известные большие языковые модели не обучались (я не слышал чтобы кто то это делал) с учетом достоверности результата. Т.е. единственное что они умеют делать - это притворяться человеком, писать правильные тексты, как если бы их писал человек. Потому что во время обучения, единственным критерием правильности был текст из обучающего примера. А туда попадает все что угодно. Странно то, что они стали проявлять дополнительные свойства, очень похожие на интеллект...

А еще для генерации текста алгоритмы обычно используют вероятностную модель (есть разные алгоритмы, ищи параметры типа температура top_k, или еще вот алгоритм - mirostat. Весь смысл в том что если поставить температуру 0 то сеть будет выбирать наилучший следующий токен, а иначе по какому то алгоритму сможет перескакивать на альтернативы

Чтобы компьютер вместе с текстом тебе выдавал ссылки и вообще какие то корректные данные, необходимо чтобы кто то заранее тебе проиндексировал (классическая база данных) интернет, а вот поиск по этой базе завернул бы через ИИ, чтобы поиск по ней производился не поиском по тексту а по смыслу. Чтобы что то скачать себе на комп и поиграть я такого не видел, на гитхабе есть проекты на основе как chatgpt так и llama, но как я понимаю все это на зачаточном уровне.

p.s. посмотри perplexity.ai
а еще посмотри майкрософтовского чат бота (работает только не из россии, только в браузере edge)

Comments

[forthuse]

Да, это так и есть, но была надежда, что после выданной какой то информации можно бы было, к примеру, заменить "источники её" на достоверный вариант (как бы дообучить модель), но похоже не судьба. Хотя похоже в этих сетях, всё же, формируется слой изестных фактов по спрашиаемому вопросу (по "словам-токенам"), но логические дальнейшие выводы по этой информации в 'зачаточном" состоянии т.к. легко теряется контекст сделанных логических выводов.

P.S. Или нам подсовывают демо-игровые модели нейронок для невозможности их полнофункционального использования.
К примеру, спрашиваю вывести книги изданные по Форт (Forth) на русском языке, и получаю бредовую выдачу, хотя в той же русской Википедии по этому языку большинство из них перечислены на странице.

[rPman]

А что жаловаться, на обучение больших моделей требуются миллионы баксов, и это требования снизу.
нужны размеченные данные (если хочешь качественную модель - это самое дорогое), нужны специалисты, нужны эксперименты (т.е. полное обучение на дорогущем железе с затратами мегаватт энергии и амортизации)

Мелкие и слабые модели, доступные сообществу, на которых тренируются новички - это лакмусовая бумажка для крупных компаний, которые таким образом специалистов ищут/выращивают.

p.s. повторяю, языковая модель это не база данных по выдаче ответов, а заучивание нейронками данных обычно - плохой маркер переобученности.