RUS  ENG
Полная версия
ЖУРНАЛЫ // Известия Кабардино-Балкарского научного центра РАН // Архив

Известия Кабардино-Балкарского научного центра РАН, 2016, выпуск 6, страницы 88–95 (Mi izkab214)

ИНФОРМАТИКА. МАТЕМАТИКА

О принципе минимизации усредненного эмпирического риска для решения задач регрессии

З. М. Шибзухов, Д. П. Димитриченко, М. А. Казаков

ФГБНУ Институт прикладной математики и автоматизации, 360000, КБР, г. Нальчик, ул. Шортанова, 89-а

Аннотация: В настоящей работе предлагается расширение принципа минимизации эмпирического риска для решения задачи регрессии. Он строится на основе применения усредняющих агрегирующих функций для вычисления эмпирического риска вместо среднего арифметического. Такие оценки среднего риска можно построить, используя усредняющие агрегирующие функции, которые являются решением задачи минимизации штрафной функции за отклонение от своего среднего значения. Такой подход для представления агрегирующих функций среднего позволяет, с одной стороны, определить значительно более широкий класс функций среднего. В настоящей работе предлагается новая градиентная схема для решения задачи минимизации среднего риска. Она является аналогом схемы, применяемой в алгоритме SAG в случае, когда риск вычисляется при помощи среднего арифметического. Приведен иллюстративный пример построения робастной процедуры оценки параметров в задаче линейной регрессии на базе использования усредняющей функции среднего, аппроксимирующей медиану.

Ключевые слова: агрегирующая функция/операция, эмпирический риск, регрессия, штрафная функция, процедура градиентного спуска.

УДК: 519.7

Поступила в редакцию: 15.11.2016



© МИАН, 2024