Некоторые способы определения выпуклости многоугольника:

1. Провести прямую через любую из сторон многоугольника. 12 Если при этом весь многоугольник лежит только по одну сторону от этой прямой, то он выпуклый. 1 Если хотя бы одна прямая разделяет многоугольник на две части ненулевой площади, то он невыпуклый. 2
2. Выбрать любые две внутренние точки многоугольника. 1 Затем соединить их отрезком. 1 Если все точки отрезка также являются внутренними точками многоугольника, то он выпуклый. 1
3. Проверить, что все внутренние углы многоугольника меньше 180°. 3
4. Убедиться, что все диагонали, связывающие вершины многоугольника, лежат внутри этого многоугольника. 3
5. Проверить, что все углы многоугольника обходятся в одном направлении. 3 Для этого используют векторное произведение: если знаки векторных произведений для отдельных углов не совпадают, то многоугольник невыпуклый. 3