Ансамбль сверточных нейронных сетей для распознавания образов?

Question

[Chichi]

Целесообразно ли использовать ансамбль сверточных нейронных сетей (convolutional neural network) для задач распознавания образов?

Согласно следующей англоязычной статье и соответствующей презентации, использование ансамбля сверточных нейронных сетей ведет к значительному снижению ошибок. Показано на примере распознавания образов цифр из базы MNIST.

Показано, что с увеличением количества моделей в ансамбле растет точность распознавания:
Ансамблевый алгоритм может привести не только к улучшению точности распознавания, но и к уменьшению времени, затраченному на обучение.

Я не смог найти год публикации данной статьи, также как и ученую степень ее автора. Возможно, использование ансамбля сверточных нейросетей уже не актуально на сегодняшний день или показало свою несостоятельность в задачах распознавания образов.

Также я обратил внимание на следующую русскоязычную статью датируемую 2012 годом:

Актуальные вопросы использования сверточных нейрон...

Здесь также производится распознавание образов цифр из различных баз. В статье и работе наглядно продемонстрирована эффективность применения комитетов CNN, обученных на базах с различным стилем начертания.

Вот одна из таблиц сравнения точности распознавания комитетами нейросетей и системы KADMOS:

Но сам я сталкивался с противоположными мнениями экспертов, которые утверждали, что использование ансамблей сверточных нейронных сетей не является актуальным на сегодняшний день. Согласно их мнению, сегодня решение задач распознавания образов больше сконцентрировано на оптимизации одной модели нейросети, чем на использовании их ансамблей.

И все-таки как же обстоят дела в этом вопросе? На данный момент, имеются ли значимые преимущества использования ансамбля сверточных нейронных сетей перед вариантом с одной нейронной сетью (без ансамбля) в задачах распознавания образов или нет?

Answer 1

[xmoonlight]

Одна сеть - выдаёт один класс коэффициентов. Несколько - несколько.
При использовании нескольких с сумматором - конкретную ошибку в какой-либо отдельной сети установить очень сложно.
Гораздо лучше использовать подход:
"многоярусный адаптивный водопад" (с)2016, xmoonlight,
когда используя выходные данные одной сети (или нескольких параллельных), выбирается нужная ветка другой согласно какому-то условию (как правило, это абсолютный интервал выходных значений весов в текущем или предыдущем цикле в процентном соотношении относительно друг друга). В этом случае - отловить ошибку на любом этапе очень просто.