К теории разрешимости задачи с косой производной

В работе изучается граничная задача с косой производной для эллиптического дифференциального оператора $\mathscr L=a_{ij}\mathscr D_i\mathscr D_j+a_j\mathscr D_j+a_0$ в ограниченной области $\Omega\in\mathbf R^{n+2}$ с гладкой границей $M$. Предполагается, что множество $\mu$ тех точек из $M$, в которых векторное поле задачи пересекается с касательным пространством $T(M)$, не пусто. Это равносильно неэллиптичности краевой задачи
\begin{equation} \mathscr Lu=F \quad\text{в}\quad\Omega,\qquad \frac{\partial u}{\partial\mathbf l}+bu=f\quad\text{на}\quad M, \end{equation}
которая в зависимости от устройства $\mu$ и поведения поля $\mathbf l$ в окрестности $\mu$ может иметь бесконечномерные ядро и коядро. На множестве $\mu$, которому разрешается содержать подмножество (полной) размерности $n+1$ выделяются подмногообразия $\mu_1$ и $\mu_2$ коразмерности 1, трансверсальные $\mathbf l$, и вместо (1) рассматривается задача
\begin{equation} \mathscr Lu=F \quad\text{в}\quad\Omega,\qquad \frac{\partial u}{\partial\mathbf l}+bu=f\quad\text{на}\quad M\setminus\mu_2, \qquad u=g\quad\text{на}\quad\mu_1. \end{equation}
Доказано, что в подходящих пространствах оператор, отвечающий задаче (2), является фредгольмовым и при естественных ограничениях на коэффициент $b$ задача однозначно разрешима в классе гладких в $[\Omega]\setminus\mu_2$ функций $u$ с конечным скачком у $u|_M$. Приводится необходимое и достаточное условие компактности обратного оператора задачи (2) в терминах множества $\mu$ и поля $\mathbf l$.
Библиография: 14 названий.