ZlodeiBaal

Обработка сигналов: изображения, радиолокация, звук. Любое обучение и принятие решений.
По сути в любых системах, где есть прогноз и есть внешний канал наблюдения - оно уместно.

Сомневаюсь, что можно сформулировать универсальный математический критерий. Для каждой задачи будет свой, эмпирический. А если критерий эмпирический — то единственный способ оценки — эталонные изображения.

Я бы посоветовал делать так: напишите алгоритм, который генерирует картинки, приблизительно похожие на те, что надо обрабатывать. При этом пусть он сохраняет эталонную форму границ для каждой генерированной картинки. После чего заполняет их шумом и прочим мусором. Потом пускаете ваши алгоритмы выделения и смотрите насколько полученное изображение совпадает с эталонным.

Мы, когда в своё время один алгоритм настраивали, большую базу обработали в ручную, отметив все границы, которые алгоритм должен был ловить(поиск глаз). А потом прогоняли алгоритм по всей базе и смотрели сколько где он справился, оценивали его эффективность.

А вообще что понимать под выделением границ? Фильтрация подчёркивающая контуры или аналитический алгоритм выделяющий границы объектов? Для второго далеко не всегда нужно первое. У Вас тут именно фильтрации. В качестве аналитических алгоритмов — ну хотя бы преобразования Хафа или вайвлет-анализ с набором искомых примитивов.