Я когда-то делал пробные попытки анализа изображения для управления автофокусом (с использованием простых вейвлет-преобразований).
Здесь лежит.
Сразу предупрежу: по общему виду изображения невозможно сказать, в какую сторону надо двигать фокус. Для начала надо как минимум подвинуть в какую-нибудь сторону, проанализировать и сделать вывод, куда же двигать (можно также оценить, на сколько двигать).
Никаких готовых библиотек не встречал.
Кстати, еще простой способ определения степени расфокусированности изображения — анализ его автокорреляционной функции.
А вообще, вариантов полным-полно: анализ градиента изображения; выделение контура объекта и отслеживание его изменений, вычисление полуширины точечных объектов и т.д., и т.п.
