RUS  ENG
Полная версия
ЖУРНАЛЫ // Математические заметки // Архив

Матем. заметки, 2022, том 112, выпуск 2, страницы 179–187 (Mi mzm13430)

Эта публикация цитируется в 1 статье

Метод Вайды для задач выпуклой стохастической оптимизации небольшой размерности

Е. Л. Гладинabc, А. В. Гасниковbcd, Е. С. Ермаковаb

a Humboldt-Universität zu Berlin, Германия
b Московский физико-технический институт (национальный исследовательский университет)
c Институт проблем передачи информации им. А.А. Харкевича Российской академии наук
d Кавказский математический центр, Адыгейский государственный университет

Аннотация: В работе рассматривается общая задача выпуклой стохастической оптимизации в пространстве небольшой размерности (например, 100 переменных). Известно, что для детерминированных задач выпуклой оптимизации небольших размеров наилучшим образом сходятся методы типа центров тяжести (например, метод Вайды). Для задач стохастической оптимизации вопрос о возможности использования метода Вайды сводится к вопросу о том, как он накапливает неточность в субградиенте. Недавний результат авторов об отсутствии накопления неточности на итерациях метода Вайды позволяет предложить его аналог для задач стохастической оптимизации. Основным приемом является замена субградиента в методе Вайды его пробатченным аналогом (средним арифметическим стохастических субградиентов). В настоящей работе осуществляется описанный план, что приводит к эффективному (в условиях возможности производить вычисления параллельно при батчинге) методу решения задач выпуклой стохастической оптимизации в пространствах небольших размерностей. Производительность алгоритма проиллюстрирована численным экспериментом.
Библиография: 16 названий.

Ключевые слова: стохастическая оптимизация, выпуклая оптимизация, метод секущей плоскости, минибатчинг.

УДК: 519.85

Поступило: 26.01.2022
Исправленный вариант: 25.03.2022

DOI: 10.4213/mzm13430


 Англоязычная версия: Mathematical Notes, 2022, 112:2, 183–190

Реферативные базы данных:


© МИАН, 2024