Новый тип жалобы — member GPT?

Question

[mayton2019]

Если текст ответа на вопрос сформирован не человеком а искусственным интеллектом.

Что думаете по этому поводу?

Comments

[paran0id]

Проблема актуальна?

[mayton2019]

paran0id, пока - просто мысль.

[Drno]

mayton2019, вот "когда убьют тогда и приходите" ))

[Сергей Кузнецов]

Ответ должен быть верным. А как он получен, не должно иметь значения.

[mayton2019]

Сергей Кузнецов, а кто верификацию сделает?

Голосующие - это как присяжные на суде. Они не решают правильный ответ или нет. Они решают
- "выглядит" ли ответ правильным.

[Сергей Кузнецов]

mayton2019, а какая разница кто верифицирует? Часто люди такую ерунду пишут в ответах, что думается что ИИ ответил бы лучше. А правильные ответы или нет, контролируют кураторы.

[Одиночка Айс]

mayton2019, правильность ответа оценивает, в первую очередь, вопрошающий

[WinHack9702GitHub]

Покажите пожалуйста скриншот.

[mayton2019]

Типа такого ответа - https://qna.habr.com/q/1254948

Достаточно пресно. И многословно. Лично мне такое не по душе. Да и нет челленджа.

[Сергей delphinpro]

mayton2019,

а кто верификацию сделает?

У кураторов есть право снимать отметку правильности решения.

[mayton2019]

Друзья поскольку появился еще один реферал на этот топик, то я продолжу.

Где-то уже писал что я считаю что у человека есть право быть предупрежденным
о том что акт коммуникации будет включать в себя механизмы ИИ.

Тоесть я не против говорить с Chat-GPT. Я просто хочу чтобы был checkbox о том что
я принимаю такую форму диалога.

Это по духу примерно соотвествует GDPR.

[Кот Абсолютный]

Вешать плашку - "сгенерирновано ИИ". Юзеров, постоянно генерящих ответы через ИИ - банить на время. Если не доезжает - банить навсегда.
Никогда не следует забывать, что ИИ не понимает смысла сказанных им слов - для него они просто результат выполнения набора заложенных инструкций, сколь угодно разветвленными бы они ни были, поэтому для ИИ ответ "42" на вопрос "Главный вопрос жизни, вселенной и всего такого" вполне допустим, если получен логическим путем.
Поэтому ИИ может давать ответы верные по форме, но нелепые по сути.
Внести ограничение в настройки "Показывать/не показывать ответы ИИ"

[Anonymous]

CityCat4, Тостер давно умер в плане разработки. Мне кажется, что весь топик вы тут зря затеяли

[d'Ivan]

Насчёт жалоб - не особо имеет смысл. Эксплуатация технологий и этика - философские темы.

Можно, например, составлять список на "доске героев". Например, вот: https://qna.habr.com/user/ruslan6565/answers

Answer 1

[Алексей Уколов]

Проблема с такими ответами в том, что они выглядят компетентными, но могут быть полной чушью. Поэтому требуется их анализ и оценка. И если «отвечающий» сам в теме не разбирается, этот анализ должен проводить кто-то другой. Это не выглядит честным.

Поэтому мы стараемся такие ответы удалять, а людей банить на короткий срок, чтобы получше дошло. Но пока работает не со всеми, к сожалению.

Comments

[dollar]

Считаю, что прежде всего должна быть прозрачность.
а) ответ полностью человеческий
б) ответ полностью от ChatGTP
в) ответ частично сгенерирован, и отвечающий не чувствует своей компетентности, хоть и проверил ответ в целом и не видит косяков.

Соответственно, если пользователь выдает ответ chatGPT как полностью свой, то это должно быть наказуемо. Однако сюда не должны попадать случаи, когда чушь несет сам пользователь, потому что формально нарушений нет.

Answer 2

[Dmitry Roo]

Будучи языковой моделью ChatGPT не имеет личного мнения или чувства. Однако он может сказать, что использование генерируемых ИИ текстов, таких как текст, созданный GPT, становится все более распространенным в различных приложениях, таких как обслуживание клиентов, создание контента и т. д. Это может быть полезно для предоставления быстрой и точной информации, но важно использовать его ответственно и дать понять конечному пользователю, что текст сгенерирован ИИ. Кроме того, важно продолжать контролировать и улучшать производительность и точность модели ИИ, чтобы обеспечить высокое качество генерируемого текста.

Сгенерировно: https://chat.openai.com/chat
Переведено с помощью www.DeepL.com/Translator

Comments

[Dmitry Roo]

Мне кажется, что следует добавить бота, который будет отвечать на вопросы, используя chatGPT

[mayton2019]

Dmitry Roo, мы приближаемся к этому кризису. Скоро многие вопросники подключат себе AI в каком-то виде и самый первый ответ на любой вопрос будет молниеносно выдан таким ботом.

Но вот понравится ли такое нововведение чиателям?

[paran0id]

Dmitry Roo, всё будет проще, чем научить людей гуглить

[mayton2019]

paran0id, тогда у них пропадет мотивация ходить в хабр. Зачем ходить когда все вопросники просто покупают сервис GPT. Можно зайти с любого терминала. Или спросить Алису или Алексу.

[paran0id]

mayton2019, специально для таких есть жалоба "Ответ легко ищется поисковиком"

[mayton2019]

paran0id, а отвечающие? Зачем им отвечать когда сеть сгенерировала свой очень быстрый синтетический ответ.

[Dmitry Roo]

mayton2019, цель Q&A сайта - получить ответ на вопрос. Если ответ получен, корректен и отмечен решением - что тут плохого?
Пусть на элементарные вопросы отвечает бот.
На сложные, с которыми бот не справляется - пусть отвечают люди.

[mayton2019]

Dmitry Roo, а кто решает сложные или нет?

[Dmitry Roo]

mayton2019, странный вопрос. Никто не решает. Какие-то вопросы будут для роботов простые, а какие-то нет.

[d'Ivan]

Dmitry Roo, думаю, что для ИИ нет сложных вопросов. Он или подробно опишет как решить проблему или ответ расплывчато.

[mayton2019]

Услужливость ChatGPT такова что он практически всегда выдает хоть какой-то ответ. За исключением тех случаев когда вы нарушаете agreement об использовании.

И эта услужливость продуцирует галлюцинации.

Answer 3

[Saboteur]

А что делать с вопросами, на которые можно сразу получить готовый ответ в гугле или у нейросети?

Если ответ верный, то ответ как ответ. Главное чтобы юзер, который пользуется нейросетью сам понимал смысл ответа, а то бывает ответ вообще не в тему.

Comments

[mayton2019]

Ситуация когда человек ищет общения с человеком - признак эмоционального выгорания и поиска сочувствия. Я конечно не призываю сочувствовать или как-то играть роль психолога но я в принципе понимаю
ПОЧЕМУ люди иногда создают топики хотя имеют уже какое-то видение ответа.

Люди - есть люди. И видимо общение с Ghat-GPT не закрывает их потребность в человеческой эмпатии.

И даже если GPT проходит тест Тьюринга в течение 15 минут - это еще не тот собеседник который нужен нам на самом деле.

Я убежден что MS/Google/Mozilla в ближайшие месяцы интегрируют ответы ИИ в поисковик.
По крайней мере прейсхолдер со ссылкой там будет вверху висеть. И это будет просто некая
новая эра в текстовом поиске. Из сырых ответов - поисковик будет выдавать реферат.

[Saboteur]

тостер не место тем, кто хочет просто пообщаться.
Опять же, обратите внимание на вопросы - они элементарные.
Хотите общаться - идите в чатик, в телеграм каналы, там будет интерактивное общение.

[mayton2019]

Saboteur, я пробовал телегу. Не мое вообще. Стена сообщений скролится быстро. В некоторых за сутки наматывает по тыщи сообщений. Невозможно ничего найти. Я мысль теряю.
Исходники крепить неудобно.

Топики... ну вроде были добавлены недавно. Но не все каналы их подключили.

Вобщем я понимаю пользу от мессенджеров и даже не спорю с ней. Но моя концентрация внимания там падает очень сильно.

С форматом qna я согласен. Я понимаю что это - только вопрос-ответ. Но в таком кейсе - идеальный ответчик это GPT. Ответ - молниеносный. Темы покрывает. Сссылки дает. Ходи. Читай. Зачем тогда наши ответы?

[Saboteur]

mayton2019,
Есть люди, которые не умеют пользоваться документацией, которые не умеют пользоваться гуглом, ну и вот не умеют пользоваться chatGPT

[Василий Банников]

mayton2019,

Ситуация когда человек ищет общения с человеком - признак эмоционального выгорания и поиска сочувствия

С этим нужно идти не на форум с вопросами и ответами на технические темы, а к психологу и к реальным людям.

я в принципе понимаю
ПОЧЕМУ люди иногда создают топики хотя имеют уже какое-то видение ответа.

Не нужно додумывать за других. У всех разные причины, даже если вам кажется со стороны иначе.
Если вы тут говорите на самом деле за себя, то вопрос под удаление, тк тостер - это не дискуссионный клуб.

[Василий Банников]

mayton2019,

С форматом qna я согласен. Я понимаю что это - только вопрос-ответ. Но в таком кейсе - идеальный ответчик это GPT. Ответ - молниеносный. Темы покрывает. Сссылки дает. Ходи. Читай. Зачем тогда наши ответы?

Наши ответы для тех случаев, когда языковая модель не справляется.
Когда ЯМ наливает кучу воды, за которой не видно сути ответа.
Когда ЯМ не видит контекст.
Когда у ЯМ тупо нет актуальной информации.
Когда для ответа на вопрос нужен опыт и мнение.

[mayton2019]

Василий. Ты почти месяц просидел без комментариев. И вдруг - разразился :)

Видимо тема цепляет. Да?

[Василий Банников]

mayton2019, не исключено)

Answer 4

[Zerg89]

Тут ещё существует критерий постановки самого вопроса и в данном случае я думаю что ИИ не сможет толком определить что человеку надо в 80% случаев зачем тащить это сюда когда для этого уже есть другие инструменты

Comments

[dollar]

Смотря какой ИИ :)
GPT-4 достаточно силён, хоть и не всесилен. Но ведь это не предел совершенства, технологии продолжают развиваться...

[mayton2019]

dollar, модель общения с GPT выглядит так. Ты спрашиваешь глупый вопрос. Нормальный человек после этого должен задать 10 уточняющих вопросов ТОЛЬКО после этого дать ответ.

GPT-4-же - как справочное бюро - дает целый реферат ответов на глупый вопрос. И ни один из этих ответов не приносит решения. Они - как в анекдоте про Холмса и Ватсона на воздушном шаре. Абсолютно точные и абсолютно бесполезные. Типа "Волга впадает в Каспийское море..." Офигеть факт. Ну да впадает. Только нам какая с этого польза?

[dollar]

mayton2019, текущий GPT просто не обучен задавать уточняющие вопросы. И я лишь сказал, что в будущем технологии будут развиваться, и нейронку можно будет многому научить.

Но даже сейчас можно просто прокачать себе навык задавания конкретных вопросов, для которых не нужны уточняющие. В контексте этого сайта можно самому задать эти уточняющие вопросы и затем тупо скопировать все ответы как часть вопроса и скормить GPT.

[Zerg89]

dollar, к сожалению очень много пользователей даже гуглить не умеют что впринципе решает вопрос без участия gpt

Правильно заданный вопрос уже половина ответа, а многие даже не понимают что проблема не там где они её ищут

[mayton2019]

Этому мешают пока два фактора. Отстающая база и NDA.

У меня бывают вопросы которые интересно спросить GPT. Особенно по новым версиям Spark/Databricks. Но проблема в том что база фактов у него датировалась двумя годами назад и некоторых фактов он просто не знает. Тоесть какой толк спрашивать его про Liquid Clustering когда он этого просто еще не знает. И второе - я должен был дать какие-то вводные имеющие левл бизнес-секрета. А для этого экземпляр GPT надо было принять на работу в корпорацию и заставить его тоже соблюдать все NDA. Сами понимаете что это пока невозможно.