Несколько алгоритмов для определения попадания точки в многоугольник:

1. Метод трассировки луча с учётом числа пересечений. 1 Из тестируемой точки выпускают луч в произвольном направлении и считают, сколько раз он пересекает рёбра многоугольника. 1 Если число пересечений нечётно, то точка лежит внутри многоугольника, если чётно — то снаружи. 1
2. Метод учёта числа оборотов. 1 Из точки выпускают луч в произвольном направлении и рассматривают рёбра, которые он пересекает. 1 Каждому пересечению присваивают число +1 или -1, в зависимости от того, как ребро пересекает луч — по часовой (слева направо) или против часовой стрелки (справа налево). 1 Сумма полученных величин и есть индекс точки относительно кривой. 1 Если она не равна нулю, то точка лежит внутри многоугольника, иначе — снаружи. 1
3. Метод суммирования углов. 1 Для тестируемой точки находят ближайшую точку на многоугольнике. 3 Затем ищут нормаль ближайшей точки и вычисляют угол между нормалью ближайшей точки и вектором от тестируемой точки до ближайшей. 3 Если угол меньше 90 градусов, то точка лежит внутри многоугольника, иначе — снаружи. 3