Структура дополнительных серий и особых представлений групп $O(n,1)$ и $U(n,1)$

В статье дается обзор нескольких, в том числе и новых, моделей неприводимых представлений дополнительной серии и их пределов – особых представлений – для групп $SU(n,1)$ и $SO(n,1)$. Указанные группы, геометрический смысл которых общеизвестен, исчерпывают список простых групп Ли, у которых единичное представление не изолировано в пространстве неприводимых унитарных представлений (нет свойства Каждана) и, следовательно, существуют такие неприводимые унитарные представления этих групп – “особые”, – в которых первые когомологии группы с коэффициентами в таких представлениях – нетривиальны. По техническим причинам удобнее рассматривать группы $O(n,1)$ и $U(n,1)$. Большая часть статьи посвящена группе $U(n,1)$.
Основной акцент делается на так называемые коммутативные модели особых и дополнительных представлений: в них максимальная унипотентная подгруппа представлена мультипликаторами – в случае $O(n,1)$, и в виде канонической модели представлений Гейзенберга в случае $U(n,1)$. Эти модели изучались ранее только для группы $SL(2,\mathbb R)$. Они особенно важны для реализации нелокальных представлений групп токов, что будет рассмотрено в другом месте.
Мы существенно используем свойство “плотности” изучаемых неприводимых представлений группы $SO(n,1)$: их ограничения на максимальную параболическую подгруппу $P$ являются неприводимыми эквивалентными представлениями. Обратно, чтобы продолжить неприводимое представление $P$ до представления $SO(n,1)$, нужно доопределить лишь одну инволюцию. Для группы $U(n,1)$ положение сходно, но чуть более сложно.
Библиография: 54 названия.