Как обновить веса на сверточном слое с разным кол-вом фильтров?

Question

[qoqo]

Доброго времени суток !

Есть слой свертки F = 1x5x4x4 ( матрица 4х4 с глубиной 5)
вход X = 1х5х13х13 ( матрица 13х13 с глубиной 5)
выход 0 = 10х10 .
Ошибка пред. слоя (полносвязного, след. после F при прямом проходе) = 10x10
в статьях пишут что бы обновить веса нужно сделать свертку ( X , ошибка пред слоя ) .
(5х13х13,1x10x10) свертка не получится , т.к глубина разная .
как получить заветные 1x5x4x4 сверткой ? Спасибо !!!

Comments

[mayton2019]

А где код?

[qoqo]

mayton2019, кода нет, на бумаге считаю .

[freeExec]

Так там же как посчитал значение на выходе со слоя, так и ошибка считается, с использованием тех же самых значений

[mayton2019]

qoqo, ты либо гений. Либо чудак. Ну обычно берут там хотя-бы MatCad или MatLab.
Excel с бейсиком на худой конец.

Answer 1

[qoqo]

Нужно ошибку умножить на каждый канал X . тогда получим 5x4x4 .

Answer 2

[Александр Скуснов]

Попробуйте написать слои на PyTorch. У него есть встроенное свойство подсчёта градиента. Их можно проверить (функцию и значение).
Есть хорошее пособие Андрея Карпатого, как самому это реализовать.