Нейросети обучение, почему может падать процент распознаваний?

Question

[Pantuchi]

Всех кто решил зайти приветствую.
Недавно написал первую скромную нейросетку по распознаванию рукописных цифр. Прогнал ее через мнист, получил результат 86% распознано. Потом решил сам пописать разные цифры и по обучать на своих примерах. Сетка распознавала обучалась. Потом я решил еще раз проверить процент распознавания по базе МНИСТ и теперь 74% !?!?!!? Почему процент упал я так и не понял.
Моя сетка имеет input[28*28 + 1(bise)], hidden[30 + 1(bise)], output[10]. Функция активации сигмоидная. Начальные веса от -0.5 до 0.5 исключил 0 на этапе инициализации весов.
Свои изображения я преобразую почти 1 : 1 с МНИСТ (размер и внутренние отступы цифры + небольшое центрирование цифры)
PS: Метод обратного распространения присутствует, веса корректируются.

Answer 1

[xmoonlight]

Отсутствие балансировки сигналов.
Две метрики ещё забыли (кроме "распознано" или "прямое"): реверс/обратная (выход->вход) и ошибку.
В целом, так должно решаться: "прямое"+"обратное"+"ошибка" => 0.

Comments

[Pantuchi]

У меня описан метод обратного распространения ошибки. Иначе бы распознавание из 60000 изображений MNIST было бы на уровне как повезет. А так все присутствует, что надо нейронки. Скорость обучения стоит 0.15. Если я вас правильно понял.

[xmoonlight]

Pantuchi, Нет. Я в ответе написал чего не хватает: ещё 2-х факторов для корректного принятия решения.

[Pantuchi]

Понял, буду копать дальше в этом направлении

[xmoonlight]

Pantuchi, Читайте функции обратной трансляции.