Готово :)
1) Сегментировал по цветам
2) Преобрахованием Хафа нашел окружности (по 3му столбику)
3) Посчитал среднее кол-во пикселей на единицу площади квадрата, описывающего фигуру. У разомкнутой окружности это значение в ~2 раза меньше, чем у замкнутой (по 3му столбику)
4) ???
5) Profit!