Обратное распостранение ошибки в cnn, как обучить фильтр на входных данных?

Question

[Dmitriy181]

Подскажите пажалуйста напримере цифр на фотке как определить дельту для фильтра.
Дельта фильтра перед полнойсвязной сети ясен, а те фильтры что после его как дельту вычислить незнаю.
Данная сеть без пулинга

Фото смотреть с лево на право (происходит вычисление фильтров, полносвязной нейросети)

После чего с права на лево ( вычисление ошибки, обновление весов )

Как обучать обычную нс знаю, а здесь проблема(

Answer 1

[xmoonlight]

Обратной свёрткой исходного изображения.

Comments

[Dmitriy181]

Я не уверен, значит надо по дельтам полносвязной сети сделать обратную свёртку для фильтра 2х2 ( поворачивая фильтр на 180 градусов и идя по углам дельты ) после чего пройтись фильтром 2х2 по результату обратной свёртки, это будут дельты для фильтра 2х2.
Фильтр 3х3 так же поворачивается на 180 градусов и идёт по углам дельты обратной свёртки что получилась выше. После чего фильтр 3х3 идёт по полученой карте обратной свёртки и это будут его дельты.

На фото будет ясней, красные цифры это в каком порядке нужно смотреть. ( смотреть надо с права )


Или не так?

[xmoonlight]

Dmitriy181, Да, можно и так.
Хотя, проще использовать умножение исходника на обратный фильтр и сделать xor.

[Dmitriy181]

xmoonlight, хотел еще спросить, после того как фильтр сделал карту признаков, по этой карте все фильтры должны пройти? Например 2 фильтра прошлись по картинке, вышло две карты признаков. Следущий два фильтра должны пройти по двум этим картам? Или 1 фильтр на одну карту

[xmoonlight]

Dmitriy181, Следущий два фильтра должны пройти по двум этим картам и притом обязательно в одинаковой последовательности: параллельными слоями. Иначе - потеряете какой-то один из полного набора всех возможных вариантов или исказите конечные данные.