Возможен ли сегодня пакетный анализ изображений при помощи ИИ-моделей?

Question

[Андрей]

Есть 290 программно сгенерированных png-изображений простых линейных графиков, отображающих некоторые изменяющиеся значения датчика во времени (совокупно все изображения занимают ~15 мб, в качестве примера привожу одно ниже - остальные такие же по формату, но уже другой график и иногда чуть другие единицы по обоим осям).



Можно ли их все разом "скормить" одной из доступных, включая коммерческие, моделей ИИ и задавать ей различные вопросы по ним? Пример вопроса: "На какой процент в среднем за 290 случаев падает значение по оси Y в течение 1 минуты после черной вертикальной пунктирной линии?", но могут быть и другие более комплексные. Может быть есть какие-то сервисы для этого, в том числе платные?

Или если это пока не получится из-за ограничений этих моделей, то может быть есть программный способ реализовать то же самое? (я сам программист, но не доводилось иметь дело с программированием с использованием ИИ в любых формах, кроме подсказок по коду внутри IDE - если подскажете куда копать, то буду благодарен).

P.S. Данные, по которым генерировались графики, в plain-text по объему составляют ~250 мб (это без сжатия, а со сжатием в архив ~20 мб), да и такая точность не нужна для задаваемых вопросов - достаточно как раз того, что видно на изображениях.

P.P.S. Поисковики по этому вопросу уводят не туда - предлагают либо генерацию изображений на основе существующих, либо совсем не то.

Comments

[dim5x]

Если есть сырые данные, то с ними и работать, а не с их производными, имхо.

[Mors Clamor]

dim5x, если есть сырые данные, то я не понимаю зачем тут нужна нейросесть

[Андрей]

Mors Clamor, SQL и его аналоги не всемогущие - иногда нужно нечто большее в плане гибкости анализа, чем строгие четкие условия, что как раз ИИ вполне должно быть подвластно.

[Василий Банников]

Андрей, не обязательно sql.
Есть всякие специфичные базы, оптимизированные для временных рядов.

Там обычно есть и интеграции с нейронками для предсказаний и обнаружения аномалий.

Answer 1

[Daemon23RUS]

Более верным будет несколько иной подход, создать нейросеть и уже ей скормить (обучить на этих данных) датасет, результат будет на порядок лучше, чем кормить картинки.
Смотрите в сторону питона и библиотек pytorch, keras etc. Не знаю специфику Ваших данных, но 99% что Ваш кейс имеет решение. Посмотрите документацию хотябы того же keras, примеры.
P.S. Забыл упомянуть, для обучения надо разметить данные.

Answer 2

[Андрей]

Внезапно пришла в голову идея эти 290 графиков объединить в одно изображение (полно как онлайн-сервисов, так и программ, делающих это). У ChatGPT ограничение на 25 мегабайт и как раз оно в них влезло, после чего соответствующие запросы с пояснением что на изображении и как это всё распознавать прошли на ура.

Answer 3

[Василий Банников]

250 мегабайт сырых данных текстом - это смешной объём. Такое количество данных легко можно хоть на каждый запрос делать полный перебор на слабом железе и всё равно получать быстрый результат.

Загоняй данные в какую-нибудь базу данных и пусть нейросеть генерит запросы к этой базе.

Только вот всякие "после пунктирной линии" лучше заменить на какое-то конкретное событие в этом временном ряду или просто на момент во времени.

Comments

[U235U235]

Если ТС устраивают картинки,то скорее всего можно применить децимацию данных и существенно сократить объем.

[Василий Банников]

U235U235, сначала не понял, а потом понял)

[Андрей]

В том то и дело, что ИИ и нужен как раз в том числе и для того, чтобы понимать всякие "после пунктирной линии", так как не каждый вопрос такого типа можно точно формализовать на SQL и подобных языках (в то же время ИИ как раз-таки и предназначен для понимания именно таких неформализованных запросов, поэтому был вопрос именно про его возможности). Задача не в том, чтобы через посредничество ИИ составлять сложные SQL-запросы к БД, а дальше получать статистику и соображать на основе неё что делать - задача, чтобы ИИ собрал статистику сам и сделал выводы сам - с такими категориями относительно несложных задач он как раз и должен хорошо справиться.

[Василий Банников]

Андрей, пунктирная линия же не из воздуха взялась)

Это какой-то критерий, событие, момент времени, метка.
А раз так - значит можно формализовать.

Если меток нет - пусть ИИ сам их добавит и использует в запросах.

В любом случае тут фундамент такой: ИИ не должен сам обрабатывать данные. Фильтрациями и поиском должна заниматься точная, детерминированная система, а ИИ может преобразовывать человеческий язык в формальный язык запросов.
Ну и работа должна происходить непосредственно с сырыми данными, а не с их визуализацией.

Визуализация должна происходить в последнюю очередь и только для человека.

Это если вам важна надежность, точность, и производительность.