Мне не хватает некоторых подробностей в вопросе.
Всё же важнее "зачем" а не "что".
Если вы хотите просто реализовать несколько разных методов ресайзов - открываете любой редактор который вам больше нравится, и смотрите список возможных методов ресайза.
Читаете про них где-нибудь, например в той же Википедии, и реализуете их.
Если же вы хотите понимать обработку изображений, то вам придётся черпнуть фундамент, и это будет тяжко.
Придётся узнать о цветовых пространствах, о сэмплировании, о восприятии человеком света,
и о ещё много много другом.
Например качество результата можно определять по разному, но современный подход основывается на человеческом восприятии, и об этом можно наверно почитать в описании того как устроен JPEG, ведь он умеет сохранять в разном качестве. При высоком качестве он меньше "съедает" детали, чем при низком.
Аналогичный теоретический подход в H.264 который используется в MP4.
Почему я упомянул про сэмплирование, которое используется в звуке?
Потому что изображение на самом деле просто сэмплированная версия непрерывной как бы двумерной волны, и каждый пиксель - это некоторая величина отклонения в позиции двумерной сетки.
Следовательно теория волн (в том числе звуковых) вполне может использоваться и здесь.
Собственно это то, что и делает Lanczos: использует метод resample звука на изображении, просто адаптированный под изображения.
(Процесс resample звука это перевод из 44100 Hz например в 48000 Hz.)