ИМХО, для данной задачи, где не до конца ясна цель. Если есть площадь A-C по ширине, 1-3 по высоте.
Пройтись вектором-сканером по ширине А(1-3), B(1-3), C(1-3), и понять на какой отметке больше всего точек, потом так же пройтись по высоте 1(A-C), 2(A-C), 3(A-C) так же получить отметку где скопление точек плотнее. ну и пересечение 2х этих отметок и будет место максимального скопления.
