Внутренние функции матричного аргумента и классы сопряженности в унитарных группах

Обозначим через $\mathrm B_n$ множество комплексных квадратных матриц порядка $n$, чьи евклидовы операторные нормы меньше 1. Его граница Шилова – множество $\operatorname{U}(n)$ всех унитарных матриц. Голоморфное отображение $\mathrm B_m\to\mathrm B_n$ назовем внутренним, если оно отображает $\operatorname{U}(m)$ в $\operatorname{U}(n)$. С другой стороны, рассмотрим группу $\operatorname{U}(n+mj)$ и ее подгруппу $\operatorname{U}(j)$, вложенную в $\operatorname{U}(n+mj)$ блочно-диагонально ($m$ блоков $\operatorname{U}(j)$ и единичный блок размера $n$). Классу сопряженности в $\operatorname{U}(n+mj)$ относительно подгруппы $\operatorname{U}(j)$ мы ставим в соответствие “характеристическую функцию”, которая является рациональным внутренним отображением $\mathrm B_m\to\mathrm B_n$. Мы показываем, что класс внутренних функций, которые могут быть получены как характеристические функции, замкнут относительно естественных операций таких, как поточечные прямые суммы, поточечные произведения, композиции, подстановки в конечномерные представления полной линейной группы и др. Мы также явно описываем соответствующие классы сопряженности.
Библиография: 24 названия.