Почему ИИ иногда начинают проглатывать слова и буквы до невозможности чтения ответа?

Question

[antdantd]

С неделю назад CHATGPT в броузере начал проглатывать целые слова, предложения буквы - так что вообще не разобрать его ответа :(
Я перешел на QWEN, вроде норм было дня три, потом тот же глюк!
Что это за явление такое и как от него избавиться?

Comments

[rPman]

В браузере нет ни chatgpt ни qwen, это просто программа для использования веб приложений (хотя в win11 в edge встроили copilot а в yandex браузере есть алиса но ни то ни другое не chatgpt).

Сайт какого chatgpt используешь?
Покажи скрин с ошибкой.

[Евгений Орлов]

Все языковые сетки - это машины, предсказывающие следующий токен с некоторой вероятностью (то есть каждый возможный токен имеет вероятность на выходе и из этих вероятностей сэмплируется следующий токен)
Это означает, что если "карты так лягут", то он может иногда нагенерить мусор
Чтобы управлять качеством генерации, можно изменять параметры генерации
Например, температура - высокая температура приводит к тому, что редкие и маловероятные токены выбираются с большей вероятностью. При слишком высокой температуре (больше 1) генерация будет походить на мусор
Также, смешение нескольких языков в промпте и данных может иногда приводить к перескакиваниям и ухудшениям вывода

Answer 1

[mss .]

Отключите автоперевод страницы