Мне кажется, что нужно искать соответствие между периметром максимального вписанного в изображение прямоугольника, содержащего максимум контурных пикселей, и периметром описанного вокруг изображения прямоугольника (это граница изображения, также, содержащего максимум контурных пикселей изображения, т.е. inset).
Чем больше разница в процентном соотношении этих двух периметров, тем на больший коэффициент нужно домножать разницу длины и ширины этих двух прямоугольников для вычисления новых размеров изображения - визуальных границ.
Это нужно тестить!
