zccmj

самое простое:
1. составление дерева связей расстояний и угла значимых точек каждого изображения (самые дальние: 1)
2. затем - сравнение отклонения этих двух деревьев.
3. получаем процент схожести двух изображений по таким точкам.

Алгоритмов много, каждый со своими изъянами и границами применения. В OpenCV есть практически все, включая патентованные SURF и SIFT. Начать можно отсюда.

Можете выдернуть готовый из кодеков использующихся для сжатия речи,
например www.speex.org
или найти реализацию G.729 en.wikipedia.org/wiki/G.729

Еще вариант выдернуть из любого спич рекогнишн движка типа sourceforge.net/p/cmusphinx/code/HEAD/tree

Вобщем копните в эту сторону.