Где научиться работать с генеративными нейросетями?

Question

[Filipp42]

Хочу научиться работать с генеративными нейросетями максимально эффективно. Для этого нужно научиться правильно составлять промпт, выбирать настройки, всё в таком духе.
Скажите пожалуйста, где можно об этом почитать, где можно этому научиться? Стоит ли идти на платные курсы? Может, есть какие-то научные статьи?
Заранее спасибо!

Answer 1

[dmshar]

А что мешает набрать в гуугл "генеративные нейросети" и начать разбираться самостоятельно? Вы же даже свой стартовый уровень не указали, кому советовать-то? Научные статьи - это (как бы помягче сказать) - для тех кто уже в теме. Вы уверены, что это то, что вам нужно? Но они вопросы "а какие статьи почитать" не задают. (Посмотрел ваш профиль - это скорее всего не про вас). А если вам просто разобраться и понять, как работают генеративные нейросети - то открываем гуугл, читаем первые три-пять ссылок, изучаем их, начинаем понимать и набирать ссылки следующего порядка, в которых уточняется то, что вы уже прочитали. Идем по этим ссылкам, пока не почувствуем, что понимаем о чем речь. Уже и книжки на русском стали издавать по теме. Например - https://habr.com/ru/companies/piter/articles/504956/
Что мешает самому это найти?

Платные курсы - категорически не рекомендую. Ну разве что вы старшекласник, который вообще не привык самостоятельно учиться и ожидает, что ему как в школе, нужный материал разжуют и в рот засунут. Или по любому поводу привык бежать в интернет вопросы задавать, потому как самостоятельно думать так и не научился. Во взрослой профессиональной жизни все уже не так - там что самостоятельно нашел и укусил - то твое. На курсах вам как правило перескажут то, что легко находиться в Гуугл, причем сделает это кто-то, уровень профессионализма кого вам не известен. (это как минимум), а дикция и умение ясно изъясняться могут оставлять желать лучшего. Ну и еще - книгу можно прочитать и разобраться, допустим з 200 часов упорной работы. На курсах вам то-же самое изложат за 20. (очень заманчиво звучит - "от профана до профи за 20 часов"), Ну пусть еще 30 часов вы будете над заданиями работать самостоятельно. Как вы думаете - какую часть темы и нужного материала вы сможете при этом усвоить?

Answer 2

[rPman]

Prompt engineering очень молодая отрасль, ей еще года нет (узкие специалисты конечно с этим годы уже бодаются), не уверен что тут можно найти готовые решения, эффективные учебники и тем более курсы... в том смысле что желающих научить у тебя будет много, их всегда много на любой чих, но вот эффективность результата - сомнительная.

Есть ряд лайфхаков (так и пиши в гугл - твоя задача + chatgp + промпт лайфхак), которые позволяют увеличить качество результата:
0. Помести в запрос максимум информации о твоей задаче, чем объемнее будет вопрос (без воды а именно информация) и чем шире он будет покрывать предметную область, тем легче gpt модель будет формулировать ответ. Сюда же можно добавить информацию, которой точно не было в обучающей выборке.
1. one shot/multi shot - эта технология очень простая, перед своим вопросом, помести один или более заранее заготовленных примеров вопрос-ответ, в идеале на ту же тему, что и твой основной запрос... топовых результатов по бенчмаркам chatgpt4 достигает при использовании 5 примеров (в смысле именно так ее оценивали в бенчмарке MMLU где она набирает 86 балов (человек 60, специалист в узкой области 90, llama2 68.9).
2. Think step by step - добавление похожих на эту просьб в запрос (можно поэкспериментировать) заставляют модель формировать ответ в виде пошаговой инструкции, это очень похоже на то как человек мыслит, ведь не сразу ответ приходит а идет пошаговый процесс. Как ни странно это очень сильно увеличивает качество результата

К сожалению использовать все по максимум это не получится из-за фундаментального ограничения существующих gpt моделей - ограниченный размер контекста (количество слов, в пределах которых модель видит и учитывает первые слова и может генерировать последующее слово).