Границы, границы чего? По поводу машинного обучения не подскажу, это наверно нужно иметь большую базу объектов и позиций их границ для обучения.
Ну если без машинного, то например как вариант по примеру фотошопа.
1. Берем изоражение.
2. Обесцвечиваем
3. Самый важный и сложный этап, настраиваем правильно уровни.
4. Находим границы черного и белого, но в идеале еще перед этим этапом придумать алгоритм растушевки хотя можно это сделать и уже следующим шагом исключив большие скопления точек.
Я думаю можно даже несколько раз прогнать этот алгоритм, на разных уровнях(шаг3), для нахождения как можно большего количества границ и в итоге совместить в одну карту границ. Ну это сидеть, пробовать играть с параметрами...
Ну это как один из первых же вариантом который пришёл в голову. Если нужен какой-то более ускоспециализированный поиск, это нужно посидеть подумать, потому-что "границы объекта" слишком абстрактно, объектов на фото может быть много и чьи границы искать неясно и что считать границами...
P.S. Мысли в слух, как вариант создать программу которая в полуавтомате поможет найти границы изображений, чтобы сформировать массив данных уже для обучения нейронки, которая в будущем будет делать это автоматически.