Аннотация:
Рассмотрены некоторые адаптивные алгоритмы зеркального спуска для задач минимизации выпуклого целевого функционала при наличии нескольких выпуклых липшицевых (вообще говоря, негладких) функциональных ограничений. Показано, что методы применимы к целевым функционалам различного уровня гладкости: выполнено условие Липшица либо для самого функционала, либо для его градиента или гессиана (при этом функционал может не удовлетворять свойству Липшица). Главная идея — адаптивная настройка метода на константу Липшица целевого функционала (градиента либо гессиана), а также ограничения. При этом рассмотрено два типа методов: адаптивный (не требует знания констант Липшица ни для целевого функционала, ни для ограничения) и частично адаптивный (требует знания константы Липшица для ограничения). С использованием техники рестартов (перезапусков) методов для задач выпуклой оптимизации предложены методы для задач сильно выпуклой минимизации. Получены оценки скорости сходимости всех рассматриваемых алгоритмов в зависимости от уровня гладкости целевого функционала. Приводятся численные эксперименты, иллюстрирующие для некоторых примеров преимущества предложенных методов. Табл. 3, библиогр. 22.
Ключевые слова:адаптивный метод зеркального спуска, условие Липшица, липшицев градиент, липшицев гессиан, сильно выпуклая функция, техника рестартов.
УДК:519.85
Статья поступила: 17.10.2018 Переработанный вариант: 24.02.2019 Принята к публикации: 27.02.2019