Как провести многоэтапную проверку текста через LLama3?

Question

[SPICHKIN_TUT]

Я использую локально LLama3, надо

Сделать систему, которая отдаёт модель анализируемый PDF.

Затем, обычным скриптом мы извлекаем интересующие нас числа и стоит задача его классифицировать.

Мы его классифицируем по разным категориям:

Относится ли число к (задолженности | пени | госпошлине), какая процедура относится к числу (Возврат | Взыскание), в какой части удовтеворения находится (Полностью | Частичная). Так как обычными скриптами это не выявить, наше число проходит трех этапную проверку у модели.

Модель будет отвечать всегда по разному, потому когда модель определяет (задолженности | пени | госпошлине) мы должны закодировать как 1, 2 или 3. Чтобы затем уже стандартизированно внести его в бд

Скажите такое возможно вообще?

Comments

[tukreb]

Скажите такое возможно вообще?

Возможно.

[d'Ivan]

Ошибка в 17-й строке.

Answer 1

[rPman]

Скорее всего выбранный инструмент подходит для задачи слабо. У llama3 выполнение инструкций на уровне 60%-70% , т.е. треть данных она будет пропускать или ещё хуже, выдумывать.

У llama3-70b (именно ее качество такое высокое, у 8b оно заметно ниже) есть ещё беда, она может ответ дать в случайном виде, не машиночитаемом, хоть и вернвм, а значит для чтения потребуется городить многоуровневую систему из того же ИИ и ручного распознавания.

Скорее всего твоя задача лучше решается предварительным анализом классическими алгоритмами.

И ещё момент, локальные сети эффективнее использовать, дообучая на своих запросах и данных (сотни и тысячи примеров), так полученная сеть будет лучше давать результат но ценой уменьшения универсальности.

Comments

[SPICHKIN_TUT]

А про какие классические алгоритмы идет речь?

[rPman]

Используя анализ относительного положения блоков текста (если блок с текстом на одном уровне по высоте с другими и текст ранее или содержит определенные фразы то текст справа считать такими то типом данных) , итеративно пробегая по всем таким правилам по всему документа, собираешь структуру с распознанными данными, затем ещё раз анализируешь по заранее заданными правилам отсутствующие данные, а также данные в документе, не попавшие в эту структуру.... Алгоритм разрабатываешь итеративно, запуская его на всю базу примеров документов, пока не распознает все