Нестандартные лиувиллевы торы и каустики в асимптотиках в виде функций Эйри и Бесселя для двумерных стоячих береговых волн

Рассматривается спектральная задача $-\langle\nabla,D(x)\nabla \psi\rangle= \lambda \psi$ в ограниченной двумерной области $\Omega$, где $D(x)$ — положительная внутри области гладкая функция, такая, что на границе области она равна нулю, а её градиент отличен от нуля. Эта задача возникает при исследовании длинных волн, захваченных берегами и донными неоднородностями. Для её асимптотических решений при $\lambda \rightarrow \infty$ приводятся явные формулы в случае, когда функция $D(x)$ имеет специальный вид, гарантирующий полную интегрируемость гамильтоновой системы, отвечающей гамильтониану $H(x,p)=D(x)p^2$. Поскольку задача вырождена, соответствующие лиувиллевы торы лежат не в стандартном фазовом пространстве $T^*\Omega$, а в “пополненном” фазовом пространстве $\Phi\supset T^*\Omega$, при этом их сужения на $T^*\Omega$ оказываются некомпактными и “уходят на бесконечность” по импульсам при подходе к границе области. В результате возникают нестандартные каустики, образованные границей области или её частью, в окрестности которых асимптотические собственные функции выражаются через функцию Бесселя сложного аргумента. Стандартные каустики (внутри области) также могут появляться, что даёт в асимптотике функции Эйри.