Считайте для каждого пикселя функцию, равную, например,
а) расстоянию до ближайшего светлого пиксела
или
б) взвешенную (с убыванием по удаленности) сумму освещенности пикселей в некоторой окрестности вокруг него.
Пиксель, имеющий наименьшее на картинке значение, высоковероятно - центр черного круга.
Если кроме маркера-круга есть крупные темные области (крупнее маркера) - а размер маркера фиксирован, придумайте функцию, которая штрафует за светлые пиксели внутри круга радиуса равного маркеру и за темные пиксели вне этого круга.
В-общем, осознайте/уточните допущения и просто разработайте штрафную функцию. Если она окажется работоспособной, но медленной - возникнет второй вопрос - ее оптимизации (возможно с некоторыми потерями в качестве распознавания).
