Координата X будет средним арифметическим всех координат X ваших точек.
Аналогично Y.
Надеюсь, принцип понятен.
По сути это центр масс, если точки одинаковые, хотя в теории им можно задавать веса.
Советую сделать в два прохода.
1) Сначала просто считаете центр.
2) Смотрите, какие точки (флуктуации, выбросы) дальше, чем 1.5 экрана, исключаете их.
3) Снова считаете центр на основе оставшихся - и вот это уже будет решение.