Аннотация:
Приводится понятие $\alpha$-множества в конечномерном евклидовом пространстве, являющееся одним из обобщений понятия выпуклого множества. Возникновение этого понятия связано с изучением свойств множеств достижимости нелинейных управляемых систем. В работе определяется числовая характеристика степени невыпуклости множества, на основе которой осуществляется классификация множеств. Вводятся в рассмотрение аналоги базовых понятий из выпуклого анализа и изучаются их свойства. Формулируются и доказываются утверждения в духе таких теорем из выпуклого анализа, как теорема о существовании опорной гиперплоскости к выпуклому множеству и теоремы об отделимости выпуклых множеств в евклидовом пространстве. Изучается понятие мажорируемости невыпуклых множеств. Свойство мажорируемости является достаточным условием для представления замкнутого невыпуклого множества в виде пересечения полупространств в смысле введенных в работе определений. Полученные результаты теории отделимости невыпуклых множеств распространяются на случай подграфиков и надграфиков скалярных функций, удовлетворяющих условию Липшица.