Аннотация:
Работа посвящена проблеме устойчивости стационарного вращения системы $n$ одинаковых точечных вихрей, расположенных в вершинах правильного $n$-угольника радиуса $R_0$ внутри круговой области радиуса $R$. Т. Х. Хавелок установил (1931 г.), что соответствующая линеаризованная система имеет экспоненциально растущие решения, когда $n\ge 7$ или если параметр $p=R_0^2/R^2$ больше некоторой критической величины $p_{*n}$ ($p_{*n}<p<1$) при $2\le n\le 6$. В данной работе задача устойчивости исследована в точной нелинейной постановке во всех остальных случаях: $0<p\le p_{*n}$, $n=2,\dots,6$. Указаны необходимые и достаточные условия устойчивости и неустойчивости при $n\ne 5$. Приведено подробное доказательство для вихревого треугольника.Часть условий устойчивости обоснована тем, что относительный гамильтониан системы достигает минимума на траектории стационарного движения вихревого треугольника. Особого подхода потребовал случай его знакопеременности. Для анализа применены результаты КАМ-теории. Перечислены и исследованы все встречающиеся здесь резонансы до четвертого порядка включительно. Оказалось, что один из них приводит к неустойчивости.