A простой многоугольник, который не является выпуклым, называется вогнутым, невыпуклым или возвратным . Вогнутый многоугольник всегда будет иметь по крайней мере один внутренний угол рефлекса, то есть угол с мерой от 180 до 360 градусов без исключения.
Некоторые линии, содержащие внутренние точки вогнутый многоугольник пересекает его границу более чем в двух точках. Некоторые диагонали вогнутого многоугольника частично или полностью лежат за пределами многоугольника. Некоторые боковые линии вогнутого многоугольника не разделяют плоскость на две полуплоскости, одна из которых полностью содержит многоугольник. Ни одно из этих трех утверждений не выполняется для выпуклого многоугольника.
Как и в случае любого простого многоугольника, сумма внутренних углов вогнутого многоугольника равна π × (n - 2) радиан, что эквивалентно 180 × (n - 2) градусы (°), где n - количество сторон.
Всегда можно разделить вогнутый многоугольник на набор выпуклых многоугольников. Полиномиальный алгоритм для нахождения разложения на как можно меньшее количество выпуклых многоугольников описан Chazelle Dobkin (1985).
A треугольник никогда не может быть вогнутым, но существуют вогнутые многоугольники с n сторонами для любого n>3. Примером вогнутого четырехугольника является выточка .
. По крайней мере, один внутренний угол не содержит всех других вершин на своих краях и внутри.
Выпуклая оболочка вершин вогнутого многоугольника и его ребер содержат точки, которые являются внешними по отношению к многоугольнику.