А что у вас на выходе из сети?
Может быть два варианта:
1. в выходном слое один нейрон, выдает вам от 0 до 1, вы денормализуете выход в исходный диапазон, типа 0="0" ... 1="9"
В этом случае сигнал для символа, не являющегося цифрой, будет трудно выделить.
2. в выходном слое у вас Н нейронов, каждый из которых соответствует одной цифре. В этом случае у вас результатом верного распознавания будет сильный сигнал на выходе одного нейрона. Т.е. если на нейроне "4" сигнал 0.8, а на всех остальных 0.08, то высока вероятность, что это у вас 4.
А если на двух или трех выходах близко одинаковые значения, то высока вероятность, что на входе что-то отличное от цифры.
Само собой, при таком подходе надо тренировать сеть на такие ложные случаи.