Можно воспользоваться этим простым классом
https://github.com/xopbatgh/sb-polygon-pointer

Достаточно указать координаты полигона и координаты точки

Принцип работы заключается в том, что в самом начала создаётся такой квадрат, в который целиком помещается полигон. Далее из каждой стороны квадрата опускается перпендикуляр к искомой точке.
После этого считается число пересечений каждого перпендикуляра с рёбрами полигона. Если все перпендикуляры пересекают рёбра хотя бы один раз и ни разу нечётное число, то считается, что точка находится внутри полигона.

Это правило достаточно просто проверить с помощью листа бумаги и карандаша