Множества раздела орбит полярных представлений компактных групп Ли

Множества раздела единичного элемента в компактной простой группе Ли, снабженной биинвариантной римановой метрикой, исследовались уже в классических работах Э. Картана по геометрии групп Ли и симметрических пространств [1]. Понятие множества раздела (cut locus) точки было введено А. Пуанкаре и затем было обобщено на случай подмногообразий римановых многообразий.
Э. Картан свел задачу описания множества раздела к задаче о метрической геометрии альковов диаграмм Штифеля симметрических пространств. В случае решеток полупростых групп Ли задача свелась к анализу метрических свойств областей Вороного их характеристических решеток (см. [2]). Для односвязных компактных групп Ли известно явное описание соответствующих областей Вороного (см. [3]) в терминах систем корней и геометрии орбит групп Вейля. Для неодносвязных групп Ли и римановых симметрических пространств задача о строении множества раздела изучалась в последние десятилетия в ряде работ. Полностью она решена только для эрмитовых симметрических пространств и некоторых других частных классов римановых симметрических пространств, называемых R-пространствами.
Определенные задачи топологического анализа данных привели к постановке вопроса о строении множеств раздела подмногообразий римановых пространств постоянной кривизны. Особый интерес в связи с геометрией орбит линейных действий компактных групп Ли $G$ на вещественном векторном пространстве представляет выяснение строения их множеств раздела по отношению к $G$-инвариантным евклидовым метрикам. В модельном примере присоединенного представления полупростой компактной группы оказывается, например, что множество раздела орбит общего положения совпадает с множеством нерегулярных элементов алгебры Ли группы.
Наши основные результаты, обобщая это наблюдение, описывают строение множеств раздела орбит представлений изотропии римановых симметрических пространств. Ответ дается в терминах их систем корней и геометрии орбит групп Вейля. Найдена стратификация множества раздела вещественными полуалгебраическими множествами. Кроме того, получено описание разложения Вороного пространства представления на области Вороного точек, принадлежащих орбите.
Сформулируем это более точным образом. Пусть $(G,K)$ — риманова симметрическая пара. Обозначим через $W$ группу Вейля компактного симметрического пространства $G/K$ и через $\mathcal{A}$ его подпространство Картана. Пусть, далее, $\mathfrak{G} = k + m$ — разложение Картана алгебры Ли $\mathfrak{G}$ группы $G$. Ограничение присоединенного представления группы $G$ на подгруппу изотропии $K$ при её действии на пространстве $m$ есть представление изотропии пространства $G/K$.
Наконец, если $N$ — подмногообразие евклидова пространства $R^{n}$, то область (ячейка) Вороного $Vor_{N}(y)$ состоит из всех тех точек $\it u$ пространства $R^{n}$, что точка $y\in N$ есть ближайшая к $\it u$ точка по сравнению с другими точками $x\in N$.

Теорема 1. Ячейка Вороного $Vor_{O_{\lambda}}(\lambda)$ орбиты $O_{\lambda}$ представления изотропии полупростого риманова симметрического пространства есть орбита нормального конуса вершины $\lambda$ многогранника $convW\lambda$ в одном из подпространств Картана, содержащих $\lambda$, при действии на него стабилизатора $K_{\lambda}$ в группе $K$ точки $\lambda$ орбиты.

Теорема 2.
a) Множество раздела $Cut(O_{\lambda})$ орбиты $O_\lambda$ в пространстве представления изотропии $m$ есть объединение орбит тех точек подпространства Картана $\mathcal{A}$ при действии группы $K$ на $m$, которые принадлежат границе нормального конуса в вершине $\lambda$ выпуклой оболочки $convW\lambda$ орбиты $W\lambda$.
b) Разбиение границы нормального конуса вершины $\lambda$ на грани меньшей размерности порождает соответствующую стратификацию полуалгебраического множества $Cut(O_\lambda)$ на полуалгебраические страты, которые суть орбиты указанных граней нормального конуса при действии на них группы $K$.

Сформулированные выше результаты непосредственно связаны с работой [4], где было явно вычислено расстояние между орбитами и их множествами раздела для рассмотренных здесь представлений изотропии. Отметим, что теоремы 1 и 2 являются в некотором смысле аналогами известной в матричном анализе теоремы Эккарта–Юнга [5].

Список литературы
[1] Э. Картан. Геометрия групп Ли и симметрические пространства. М.: Изд-во иностранной литературы, 1949.
[2] С. Хелгасон. Дифференциальная геометрия, группы Ли и симметрические пространства, Факториал, М.: Факториал, 2005.
[3] Дж. Конвей, Н. Слоен. Упаковки шаров, решетки и группы. М.: Мир, 1990.
[4] М.В. Мещеряков. Критические радиусы орбит представлений изотропии римановых симметрических пространств, Алгебра и анализ 36 (2024), no. 6, 112–121.
[5] Р. Хорн, Ч. Джонсон. Матричный анализ. М.: Мир, 1989.