Еще лучше использовать статстческую информацию о цвете объекта и фона и, на основании этого, расчитать весовые коэффициенты для оптимальной сегментации.
Что значит лучше фильтра Байера? Каков критерий лучшести?
Фильтр Байера это по-сути три RGB фильтра. Их спектральные характеристики приводятся в документации на матрицу.
Сергей Ильин, можно не искать линии, на данной картинке, думаю, сегментация по цвету в hsv справится.
Так же можно попробовать обучить Tesseract рукописным символам, т.к. внутри него нейросеть.