RUS  ENG
Полная версия
ЖУРНАЛЫ // Доклады Российской академии наук. Математика, информатика, процессы управления // Архив

Докл. РАН. Матем., информ., проц. упр., 2023, том 514, номер 2, страницы 212–224 (Mi danma466)

СПЕЦИАЛЬНЫЙ ВЫПУСК: ТЕХНОЛОГИИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА И МАШИННОГО ОБУЧЕНИЯ

Оптимальный анализ метода с батчированием для стохастических вариационных неравенств вида конечной суммы

А. Пичугинa, М. Печинa, А. Безносиковa, А. Савченкоb, А. Гасниковa

a Московский физико-технический институт, Долгопрудный, Россия
b Лаборатория искусственного интеллекта, ПАО "Сбербанк", Москва, Россия

Аннотация: Вариационные неравенства являются унифицированной оптимизационной постановкой, которая интересна не только сама по себе, но и потому что включает в себя задачи минимизации и поиска седловой точки. Между тем современные приложения побуждают рассматривать стохастические формулировки оптимизационных задач. В данной работе представлен анализ метода, имеющего оптимальные оценки сходимости для монотонных стохастических вариационных неравенств вида конечной суммы. В отличие от предыдущих работ, наш метод поддерживает батчирование и не теряет оптимальности оракульной сложности для любых размеров батча. Эффективность алгоритма, особенно в случае малых, но не единичных батчей, подтверждается численными экспериментами.

Ключевые слова: стохастическая оптимизация, вариационные неравенства, задачи вида конечной суммы, батчирование.

УДК: 004.8

Статья представлена к публикации: А. А. Шананин
Поступило: 01.09.2023
После доработки: 15.09.2023
Принято к публикации: 18.10.2023

DOI: 10.31857/S2686954323601598


 Англоязычная версия: Doklady Mathematics, 2023, 108:suppl. 2, S348–S359

Реферативные базы данных:


© МИАН, 2024