Я решил сопоставить свои изображения и изображения из MNIST'а. Выяснилось, что цифры на моих изображениях разного размера, написаны в разных частях картинки, а цифры из MNIST'а - примерно равного размера и написаны точно по центру. Именно поэтому нейронной сети легко определять цифры из MNIST'а и так сложно определять мои. Решение проблемы лежит в переходе с многослойных перцептронов на сверточные нейронные сети.