RUS  ENG
Полная версия
ЖУРНАЛЫ // Вестник Томского государственного университета. Математика и механика // Архив

Вестн. Томск. гос. ун-та. Матем. и мех., 2018, номер 55, страницы 22–37 (Mi vtgu668)

Эта публикация цитируется в 3 статьях

МАТЕМАТИКА

О скорости сходимости субградиентного метода с изменением метрики и его приложения в схемах нейросетевых приближений

В. Н. Крутиков, Н. С. Самойленко

Кемеровский государственный университет

Аннотация: Исследуется релаксационный субградиентный метод с двухранговой коррекцией матриц метрики. Доказано, что на сильновыпуклых функциях, в случае существования линейного преобразования координат, уменьшающего степень обусловленности задачи, метод имеет линейную скорость сходимости, соответствующую этой степени обусловленности. Экспериментально установлено, что скорости сходимости квазиньютоновского и изучаемого методов на гладких функциях практически эквивалентны. Вычислительные возможности метода используются для построения эффективных алгоритмов обучения нейронных сетей.

Ключевые слова: метод, субградиент, минимимизация, скорость сходимости, нейронные сети, регуляризация.

УДК: 519.6

MSC: 65K05, 90C30, 82C32

Статья поступила: 31.03.2018

DOI: 10.17223/19988621/55/3



Реферативные базы данных:


© МИАН, 2024