Для начала можно просто подумать, а не искать готовое решение/алгоритм. На это и нацелены задачи, зачем их вообще решать если все сводится к поиску алгоритма?
"Похожий цвета" это те цвета в которых схожи RGB модели. Т.е. RGB(255, 0, 0) и RGB(150, 0, 0) - схожи (второй оттенок красного, более темный), RGB(255, 0, 0) и RGB(0, 255, 0) - напротив, первый красный, второй зеленый.
Алгоритм может выглядеть так:
1. Сначала создаете карту блоков/прямоугольников/RGB моделей. Можно банальным перебором пикселей.
2. Берете первый блок и проверяете на "схожесть" с соседним блоком.
3. Повторяете предыдущий пункт пока не обойдете все блоки со схожим цветом и составляете фигуру.