RUS  ENG
Полная версия
ЖУРНАЛЫ // Журнал вычислительной математики и математической физики // Архив

Ж. вычисл. матем. и матем. физ., 2022, том 62, номер 2, страницы 342–352 (Mi zvmmf11365)

Информатика

Ускоренные проксимальные оболочки: применение к покомпонентному методу

А. С. Аникинa, В. В. Матюхинb, Д. А. Пасечнюкb

a 664033 Иркутск, ул. Лермонтова, 134, а/я 292, Институт динамики систем и теории управления им. В.М. Матросова Сибирского отделения РАН, Россия
b 141701 М.о., Долгопрудный, Институтский пер., 9, Московский физико-технический институт (национальный исследовательский университет), Россия

Аннотация: Статья посвящена одному частному случаю применения универсальных ускоренных проксимальных оболочек для получения вычислительно эффективных ускоренных вариантов методов, использующихся для решения различных частных постановок оптимизационных задач. В данной работе предлагается проксимально ускоренный покомпонентный градиентный метод с эффективной алгоритмической сложностью итерации, позволяющий существенно учитывать разреженность решаемой задачи, и рассматривается пример применения предлагаемого подхода для решения задачи оптимизации функции вида SoftMax, для которой описываемый метод позволяет ослабить зависимость вычислительной сложности решения от размерности $n$ задачи в $\mathcal O(\sqrt{n})$ раз, и демонстрирует на практике более быструю по сравнению со стандартными методами сходимость.
Библ. 22. Фиг. 2.

Ключевые слова: проксимальный ускоренный метод, каталист, ускоренный покомпонентный метод, SoftMax, LogSumExp.

УДК: 519.85

Поступила в редакцию: 16.02.2021
Исправленный вариант: 16.02.2021
Принята в печать: 04.08.2021

DOI: 10.31857/S004446692202003X


 Англоязычная версия: Computational Mathematics and Mathematical Physics, 2022, 62:2, 336–345

Реферативные базы данных:


© МИАН, 2024