RUS  ENG
Полная версия
ЖУРНАЛЫ // Журнал вычислительной математики и математической физики // Архив

Ж. вычисл. матем. и матем. физ., 2024, том 64, номер 4, страницы 587–626 (Mi zvmmf11729)

Оптимальное управление

О некоторых работах Бориса Теодоровича Поляка по сходимости градиентных методов и их развитии

С. С. Аблаевab, А. Н. Безносиковac, А. В. Гасниковacd, Д. М. Двинскихacd, А. В. Лобановad, С. М. Пучининa, Ф. С. Стонякинab

a 141700 Долгопрудный, М.о., Институтский пер., 9, НИУ МФТИ, Россия
b 295007 Симферополь, пр-т акад. Вернадского, 4, Крымский федеральный университет им. В.И. Вернадского, Республика Крым, Россия
c 127051 Москва, Б. Каретный пер., 19, стр. 1, ИППИ РАН, Россия
d 109004 Москва, ул. А. Солженицына, 25, ИСП РАН, Россия

Аннотация: Представлен обзор современного состояния субградиентных и ускоренных методов выпуклой оптимизации, в том числе при наличии помех и доступа к различной информации о целевой функции (значение функции, градиент, стохастический градиент, старшие производные). Для невыпуклых задач рассматривается условие Поляка–Лоясиевича и приводится обзор основных результатов. Рассматривается поведение численных методов при наличии острого минимума. Цель данного обзора – показать влияние работ Б.Т. Поляка (1935–2023) по градиентным методам оптимизации и их окрестностям на современное развитие численных методов оптимизации.
Библ. 200. Табл. 1.

Ключевые слова: градиентный спуск, условие градиентного доминирования (Поляка–Лоясиевича), острый минимум, субградиентный метод Поляка–Шора, условие ранней остановки, метод тяжелого шарика поляка, стохастический градиентный спуск

УДК: 519.85

Поступила в редакцию: 15.09.2023
Исправленный вариант: 16.12.2023
Принята в печать: 17.11.2023

DOI: 10.31857/S0044466924040028


 Англоязычная версия: Computational Mathematics and Mathematical Physics, 2024, 64:4, 635–675

Реферативные базы данных:


© МИАН, 2024