Советую Гонсалеса и Вудса почитать. В общем случае решения не существует, надо на каждый частный случай смотреть. Простейший вариант - если хотя бы на паре десятков кадров морда лица засветилась в более-менее одном положении. В этом случае: а) выделяем область интереса, б) Хааром или еще как-нибудь выделяем границы, в) ищем базовые точки на границах для совмещения изображений между кадрами, г) обрабатываем полученную стопку изображений.
Простейшей обработкой совмещенной стопки является медианное усреднение. Но для того, чтобы оно отлично сработало, лицо должно быть очень хорошо зафиксировано, иначе будут размыты детали.
В любом случае, даже наиболее простой случай потребует пары-тройки дней усердной работы (элементарный вариант: выдрать imagemagick'ом область интереса, совместить hugin'ом, а затем медианой усреднить хоть в той же октаве).
Для одноразового решения задачи можно и попробовать все в октаве сделать. Но, к сожалению, она еще сильно отстает от огороженного матлаба ☹
Простой
Средний
