Если у вас задача найти ближайшую к одной один раз, то весь "алгоритм" - цикл for.
Перебираете все точки из файла, считаете расстояние по
формуле.
Как сказал
Alexandroppolus можно считать не расстояние, а квадрат. Если координаты близкие, то можно упрастить формулу еще больше, но это будет небольшой выигрыш в скорости.
Если же вам надо много раз для многих точек находить ближайшую из заданных, то имеет смысл построить какой-то индекс по опорным точкам. Какое-нибудь R-tree или квадро-дерево.