Elbro, если про процентиль, то посмотрите на гистограмму яркости.
На картинке белый лист занимает процентов 20 по площади и 90-я процентиль будет адекватной оценкой яркости листа. Но независимо от того, выделите ли вы лист или получите оценку его яркости, белизну оценить никак не получится. Яркость это не белизна. Белизна на фото зависит еще от освещения и от настроек камеры.
Я бы использовал детектор углов Харриса (или поиск по шаблону, уж очень четкие углы на картинке). Другой вариант: поиск линий через преобразование Хафа. А контуры тут не нужны.
Забудьте пока что про Фурье. Для начала разберитесь со сверткой. Начните с одномерной свертки. В приведенном уравнении нет яркости и цвета, это ядро свертки. Если у вас цветное изображение, то обычно фильтрация идет по каждому каналу r, g, b.
Часто ошибка бывает в том, что забывают то, что градиент имеет направление в сторону увеличения функции. А для поиска минимума нужно использовать градиент со знаком минус - антиградиент. Возможно что тут такая же ошибка.