Меня смущают форматы значений причем все - RGB, HEX, CMYK.
Что именно? У всех цветных изображений, исходные значения RGB (от 0 до 255). Это три цвета: R - красный, G - зелёный и B- синий. Их смешивание даёт разные оттенки и значение пикселя. На этой основе строятся другие цветовые карты, такие как CMYK, где чёрный и белый - ноль и 255 для всех трёх цветов соответственно.
вопрос в том, как произвести расчет со значениями пикселей в матрице?
Берёте матрицу n×n (в данном случае показана матрица 3×3) и усредняете значение смежных пикселей.
Для простоты понимания, можно взять
пример преобразования цветного изображения в черно-белое; выводится сумма трёх цветов (RGB × коэффициент) в одном пикселе:
result = 0.2126*r + 0.7152*g + 0.0722*b