aRegius

Возьмите OpenCV, прочитайте изображение в режиме Grayscale (чтобы получить массив значений 0-255) и разделите на 255. Чтобы прочитать в режиме GS просто поставьте численное значение режима равным нулю:
grayscale_image = cv2.imread(your_image, 0)

Вот довольно неплохой источник информации (особенно, если вы планируете работать с Python).
Конкретно по математике смотрите ближе к концу раздел Math.