Не с этого надо начинать. Каковы требования по точности и скорости работы алгоритма? Много ли точек надо проверять на вхождение в одну окружность? Все ла равно вам на сплющенность Земли, а также на рельеф? Понимаете ли вы, что окружность на карте не будет выглядеть, как окружность?