rPman

100% готовая библиотека есть, но не нагуглилась, так как задача не такая уж и сложная, ведь все можно сделать заранее.

Первоначальное фото с маской делать нужно не с белым квадратом малевича, а специально подготовленным изображением на основе шахматной доски с мелкими цветными квадратами (одинаковые цвета не должны быть рядом, просто регулярный ресунок), чтобы слишком большие складки не помешали определить, какой это квадрат

Полученное фото нужно сравнить с исходным изображением, и разница и будет теми изменениями, которые необходимо делать с целевыми изображениями, перед наложением. Каждый квадрат (область закрашенная одним цветом, чтобы не бодаться с тенями, делать фото нужно с хорошим освещением) на фото связываем с квадратом на изображении (поиск ближайшего того же цвета) а там либо искать центр либо пытаться задетектировать у квадратов углы и брать их за точки, для каждой точки строим вектор сдвига (dx,dy) на который нужно подправить соответствующий квадрат, затем сплайнами считаем эти вектора для каждой точки на изображении, полученную матрицу используем для правки всех фото.

Ищи библиотеки, с эффектом warping/morphing, те что есть работают по ключевым точкам, как раз те что рассчитываешь по центрам квадратом в моем описании выше.

Вам сняло надо избавиться от градиенты, простые способы, например считайте производную яркости по каждому каналу, не обязательно rgb, лучше предлагать в cmyk или hsv... Или пример, замыльте изображение с большим шагом, таким, чтобы объекты на итоговом изображении исчезли и осталась только общая градиента. Затем высчтете из исходного изображения это замыленное ( лучше использовать деление). В итоге вы избавитесь от градиенты и бонусом получите доп выделение границ. Этот метод идеален например при получении скана бумаги с текстом при неравномерном освещении.