Phase congruency edge detection. Писал по этой теме австралийский ученый Peter Kovesi. Работы его легко находятся в сети.
Данный метод я реализовать пытаюсь сейчас, даже добился кое-какого успеха, но не уверен, что правильно всё делаю. Могу дать исходники (C++, OpenCV).