dyrtage

Есть два варианта:
1. Объявить себя вундеркиндом, найти свой уникальный путь изучения математики - но мы вам тут не советчики, вы уж сами как-нибудь

2. С прискорбием начать повторять тот тернистый путь, который проходят выпускники физмата - именно,

Нормально выучить матанализ, чтобы понимать все эти производные, интегралы, ряды и прочий бедлам - и решать с их помощью физические и геометрические прикладные задачи

Нормально выучить линейную алгебру, чтобы не смотреть на произведение матриц как на новые ворота, а понимать, что это и зачем это. Опять же, решать геометрические задачи и помнить, что все эти нейроны - это просто извращенное название для скалярного произведения многомерных векторов.

Далее идет дифференциальная геометрия, без понимания которой будет трудно понять методы оптимизации - а именно, почему это градиентный спуск работает и что же он там такое обучает.

Комбинаторика, статистика, теория вероятностей могут быть выучены основательно только при наличии базы из матана и линала.

Как нетрудно заметить, перечисленные мной дисциплины идут ровно в том порядке, в каком их изучают студенты любого приличного физмата (попавшие туда после 11 классов) - просто потому, что это, блин, логичный порядок изучения, с опорой на ранее полученные знания.

Итого, для нормального (осознанного) ориентирования в ML нужно иметь знания студента 2 курса любого физмата (даже пединститута городского вам хватит). Если вы хотите аналогичный результат в девятом классе (и главное, быыыыстра!!!!), начинать нужно было в пятом.

Координаты строго целочисленные?
Тогда обходи точки с помощью алгоритма floodfill, с центром в исходной точке.
Например, для небольшого участка порядок будет таким:

5 4 3 4 5
4 2 1 2 4
3 1 X 1 3
4 2 1 2 4
5 4 3 4 5

Цифра - на какой итерации проверяются эти позиции.
Т.е. сначала проверяешь соседние с исходной, потом соседние с ними, потом соседние с теми, и так далее.
Если в позиции есть точка, добавляешь её в список найденных. Когда в списке найденных набралось 3 точки, останавливаешься.