Есть ли альтернатива Gliner?

Question

[Eugen023]

Есть ли модель как Gliner (для выделения разных сущностей), которая заточена на русский (понимает слэнг, опечатки, сокращения)? Мне нужно для выделения упоминаний товаров и цен в переписке

Comments

[Михаил Лялин]

А клиент для переписки по нечёткому поиску и/или с помощью плагинов никак не сможет?

[Eugen023]

Михаил Лялин, нет смысл в том, что нужно убрать воду и оставить главную, нужную информацию - цены, товары, надбавки всякие. В общем, самое главное, и это нужно выделить подсветкой в исходном тексте.

Answer 1

[Дмитрий]

Под русский ничего не заточено, российские нейросети отстают на годы.
Без дообучения будет никакая точность.
Даже если взять GLiNER MultiLingual, придётся под домен дообучать, чтобы повысить точность.
Можно ещё за основу для дообучения взять RuModernBERT.

Без дообучения только LLM юзать. Другая чуть тема, но по точности NER и рядом не стоял, и пердолинга будет в разы меньше, если есть опыт.

Вообще, странно при текущей копеечной цене за LLM'ки, юзать какую-то энкодерную древность, несравнимую по точности.

Comments

[Eugen023]

Мне сложно заставить LLM именно выделять сущности, частенько галлюцинации дает. Использовал обычно LMStudio с системным промтом.

[Eugen023]

Ограничен использовать до 1.5b т.к. в ресурсах ограничен

[Дмитрий]

Eugen023,

частенько галлюцинации дает

значит неправильно использовали. Уже несколько месяцев не видел галлюцинаций с хорошим промптом, structured output, адекватными ревьювером и валидатором.

[Eugen023]

Дмитрий, проблема и в том что генерация отнимает время, мне бы наверное больше подошёл семантический анализ текста, с выделением в исходном тексте главного. Типа чтобы на текст накладывалась карта семантики. Это все на странице веб сайта, чтобы отсеивать лишнее

[Дмитрий]

Eugen023,

проблема и в том что генерация отнимает время

эту задачу потянет самая минимальная модель при правильной настройке, там не нужен ни thinking, ничего такого. SO даст 80% успеха, агент-валидатор поверх ещё 15-17% сверху.
Недумающая модель, отдающая ответ за сотни миллисекунд потянет.

Answer 2

[Виктор Петров]

А чего б, скажем, не Textrazor? Там много возможностей такого рода.
Можно встроить в цепочку: парсим, обдираем, нормализуем, отдаём Textrazor - и всех делов.
Вопрос только в нормализации (тут как угодно - леммы, стемминг и т.п.).