Rsa97

Перевод из RGB в Grayscale - это необратимая функция. Например, в телевизионном стандарте CCIR-601 она задана как Y = 0.299R + 0.587G + 0.114B, а в sRGB как Y = 0.2126R + 0.7152G + 0.0722B.

Чёрно-белое изображение имеет два цвета - чёрный и белый.
Изображение в оттенках серого имеет один канал.
Если у вас три канала (RBG) - то это полноцветное изображение.
Яркость (или светимость) точки можно посчитать по одной из формул, в зависимости от цветовой модели:
L = 0.2126 * R + 0.7152 * G + 0.0722 * B
L = 0.299 * R + 0.587 * G + 0.114 * B
L = sqrt(0.299 * R * R + 0.587 * G * G + 0.114 * B * B)

Лучше всего видно когда вокруг букв делается контур контрастного к тексту цвета, при таком способе изображение может быть сколь угодно пёстрым.

Попробуйте сравнивать не в RBG, а в Lab.
Здесь есть алгоритмы перевода RGB -> XYZ -> CIE-L*ab, а здесь - формула разности цветов в CIE-Lab.