Замкнутость контура можно определить только пройдя по всему контуру, так что тут Жук или Чучундра не важно.
А вот определение похожести на овал по идее можно совместить с обходом контура.
В СОПРОМАТе есть формулы для определения главных осей инерции, в случае эллипса они совпадают с осями эллипса, там же есть формула для определения центра масс.
Например вот:
www.toehelp.ru/theory/sopromat/18.html
Там все на интегралах, но в нашем случае можно просто суммами заменить.
Алгоритм такой: находим замкнутый контур, находим центр масс(из координат точек найденного контура), находим главные оси инерции (аналогично из координат), находим площадь контура (тут можно просуммировать площадь треугольников образованных центром масс(инерции) и двумя следующими друг за другом точками контура).
Далее, имея центр масс и направление осей инерции находи полуоси эллипса (это можно сделать выпустив лучи из центра масс в направлении главных осей инерции до пересечения с контуром), а зная полуоси находим площадь эллипса.
Далее сравниваем площади двух фигур: исходной и эллипса - можно например брать отношение площадей и сравнивать его с единицей.
Критерий похожести вам нужно сформулировать самому исходя из условий задачи, но т.к. у вас есть большая тестовая выборка можно на ней посчитать отношение площади контуров и их эллипсов для всех кейсов и взять среднее значение.
Тут конечно много операций, но это сильно проще и по ресурсам не так затратно как нейронные сети.
