Вообще, «качество» можно привязать к сугубо математическим вещам и смотреть на спектр (Фурье или разложение по вэйвлетам), после чего проверять на то насколько «хорошая» картинка (например, если там немного пространственных частот, то это несложная и чёткая геометрия)