RUS  ENG
Полная версия
ЖУРНАЛЫ // Компьютерные исследования и моделирование // Архив

Компьютерные исследования и моделирование, 2018, том 10, выпуск 6, страницы 737–753 (Mi crm682)

Эта публикация цитируется в 5 статьях

МАТЕМАТИЧЕСКИЕ ОСНОВЫ И ЧИСЛЕННЫЕ МЕТОДЫ МОДЕЛИРОВАНИЯ

Обоснование гипотезы об оптимальных оценках скорости сходимости численных методов выпуклой оптимизации высоких порядков

А. В. Гасниковabc, Э. А. Горбуновa, Д. А. Ковалёвa, А. А. М. Мохаммедa, Е. О. Черноусоваa

a Московский физико-технический институт, Россия, 141701, г. Долгопрудный, Институтский пер., д. 9
b Институт проблем передачи информации РАН, Россия, 127051, г. Москва, Б. Каретный пер., д. 9
c Кавказский математический центр, Адыгейский государственный университет, Россия, 352700, Республика Адыгея, ул. Университетская, д. 208

Аннотация: В данной работе рассматривается проксимальный быстрый градиентный метод Монтейро – Свайтера (2013 г.), в котором используется один шаг метода Ньютона для приближенного решения вспомогательной задачи на каждой итерации проксимального метода. Метод Монтейро – Свайтера является оптимальным (по числу вычислений градиента и гессиана оптимизируемой функции) для достаточно гладких задач выпуклой оптимизации в классе методов, использующих только градиент и гессиан оптимизируемой функции. За счет замены шага метода Ньютона на шаг недавно предложенного тензорного метода Ю. Е. Нестерова (2018 г.), а также за счет специального обобщения условия подбора шага в проксимальном внешнем быстром градиентном методе удалось предложить оптимальный тензорный метод, использующий старшие производные. В частности, такой тензорный метод, использующий производные до третьего порядка включительно, оказался достаточно практичным ввиду сложности итерации, сопоставимой со сложностью итерации метода Ньютона. Таким образом, получено конструктивное решение задачи, поставленной Ю. Е. Нестеровым в 2018 г., об устранении зазора в точных нижних и завышенных верхних оценках скорости сходимости для имеющихся на данный момент тензорных методов порядка p 3.

Ключевые слова: метод Ньютона, матрица Гессе, нижние оценки, методы высокого порядка, тензорные методы, проксимальный быстрый градиентный метод.

УДК: 519.86

Поступила в редакцию: 03.09.2018
Исправленный вариант: 19.11.2018
Принята в печать: 03.12.2018

DOI: 10.20537/2076-7633-2018-10-6-737-753



© МИАН, 2024