Граничные значения голоморфных функций, особые унитарные представления групп $O(p,q)$ и их пределы при $q\to\infty$

Пусть $\Omega$ – ограниченная круговая область в $\mathbb C^N$, $M$ – подмногообразие на ее границе и $H$ – некоторое гильбертово пространство голоморфных функций в $\Omega$. Мы показываем, что при некоторых условиях, формулируемых в терминах воспроизводящего ядра пространства $H$, оператор ограничения на подмногообразие $M$ корректно определен для всех функций из $H$. Мы применяем этот результат к построению семейства “особых” унитарных представлений групп $SO(p,q)$. Особые представления возникают как дискретные компоненты оператора в разложении неприводимых унитарных представлений со старшим весом групп $U(p,q)$, ограниченных на подгруппы $SO(p,q)$. Другим свойством особых представлений является то, что они возбуждают предельный переход при $q\to\infty$. Библ. – 68 назв.