1) Любые алгоритмы в
тулбоксе Image Processing Матлаба
2) из старой литературы обработка видео в DirectShow и Media Foundation Microsoft
а) справка SDK
б) Mark D. Pesce. Programming MS DirectShow for digital video and television
в) Turcan, Wasson. Fundamentals of Audio and Video Programming for Games
г) Anton Poligner. Developing MS Media Foundation Applications