Какому ИИ сервису гугла можно скормить документ и потом задавать вопросы по нему?

Question

[pcdesign]

У гоши тьма разных API связанных с искусственным интеллектом.
У меня цель отдать ему пару сотен документов, а потом по этим докам у него спрашивать.
И что-то я потерялся.
Толи надо Generative AI API юзать, толи Natural Language API и т.д.
Есть ли у кого-нибудь опыт?

Comments

[Everything_is_bad]

У гоши

ставлю диагноз по таким названиям

[d'Ivan]

Everything_is_bad,

ставлю диагноз по таким названиям

Вот зря поставил клеймо из-за слова.

Answer 1

[d'Ivan]

Готового сервиса пока нет, насколько мне известно. Однако, можно построить его самостоятельно, при помощи

Word embedding — (векторное) представление слова

Чудесный мир Word Embeddings: какие они бывают и з... - прочесть введение достаточно для понимания.

Имея векторное представление текста (обычно небольшого), можно хранить его в векторной СУБД и по запросу находить имеющие отношения записи, сравнивая вектора этих текстов.
Этот механизм позволит искать похожий по смыслу текст. Но не более того. Зато быстро.

Как получить представление слова при помощи Vertex AI:
https://cloud.google.com/vertex-ai/generative-ai/d...

Если нужно понимать смысл текста документов, тогда нужно использовать БЯМ. Для этого необходимо дообучать модель на наборе текстов документов.

Comments

[pcdesign]

Спасибо за ответ.
А что думаете на счет
https://cloud.google.com/natural-language?hl=ru
Вот такой код на питоне мне тут прислали:

from google.cloud import natural_language

# Замените "YOUR_API_KEY" на ваш ключ
client = natural_language.Client(credentials="YOUR_API_KEY")

# Введите ваш текст
text = "Вчера я гулял по парку. Там было много людей, которые играли в игры, гуляли с собаками или просто отдыхали на траве."

# Отправьте текст в API
document = client.document_from_text(text)

# Анализ текста (необязательно)
# ...

# Сохраните document для дальнейшего использования

Загружаем текст. И потом вопрос:

# Задайте вопрос
question = "Сколько людей было в парке?"

# Получите ответ
answer = client.answer_question(document, question)

# Выведите ответ
print(answer.text)

[d'Ivan]

pcdesign,

Вот такой код на питоне мне тут прислали

этот пример похож на применение БЯМ. Суть состоит в том, что БЯМ скармливается определенное кол-во контекста на основе серии вводных данных, взятых с источника (документ и т.д.) и затем спрашиваешь БЯМ что-нибудь по теме.
БЯМ - это более точный (с точки зрения человека), дорогой и медленный способ работы с текстом на сегодняшний день. Они способны лучше понимать контекст документа. БЯМ ограничены по размеру контекста (макс. 64-128 K токенов). Гугль анонсировал контекст в 1 М в модели Gemini 1.5 Pro. Итак, если по размеру контекста документ "влезает", то отлично. Иначе придется разбивать его на куски.

Векторное представление текста (ВПТ) - он просто как продвинутый поисковый движок с точки зрения понимания смысла текста и не умеет считать, искать связи между объектами, что-либо предлагать и пр. Полезно когда нужно просто найти что-то на какую-то тему в горе документов, задав простым предложением суть.

С БЯМ проблема состоит в том, что нельзя "сохранить" результаты контекста у себя в СУБД и поэтому нужно при каждом запросе для документа разбивать на куски, отправлять как контекст и затем только задавать вопросы. А с ВПТ можно один раз "проанализировать" и затем сколь угодно спрашивать, обращаясь к собственной СУБД.

[pcdesign]

Everything_is_not_so_bad, благодарю за ответ.
Я тут прочитал новость:

Но зная журналистов решил сначала спросить здесь. :)

[rPman]

google
Их бесплатная версия работает не на много лучше открытых 7B..22B моделей, мой любимый тест на кодинг не проходит (его проходит только gpt4 и как ни странно llama3-70b), платную не смотрел, хочет 20$ и не обещают ничего интересного, поиск по интернету с AI ассистентом, читающим сайты, не запилили до сих пор.

spoiler

write a C++ class that simulates a two-dimensional array, so that working with elements of this class is the classic syntax mas[x][y] using operator[], but the data is stored in a one-dimensional array in a class object (without using std vector, only pure mas[x+Sx*y]) . The element type and array dimensions must be determined by the template parameters

я ему и показывал ошибки, и предлагал варианты, под конец тупо сказал - сделай прокси класс для второго уровня, но нет, не справился

p.s. компании, строящей свою бизнес модель на усложнении поиска (реклама и не релевантный контент от заплативших), нет никакого резона исправлять это даже за 20$/месяц

Answer 2

[palacio]

данная таска относится к технологии RAG(Retrieval Augmented Generation). Поищите в инете готовые решения 100% есть. или можете сами собрать ее, несложная задача