RUS  ENG
Полная версия
СЕМИНАРЫ

Стохастический анализ в задачах
21 сентября 2013 г. 14:00, г. Москва, Большой Власьевский переулок, дом 11


Вычислимые комбинаторные оценки вероятности переобучения

Е. Соколов

Московский государственный университет им. М. В. Ломоносова, факультет вычислительной математики и кибернетики

Аннотация: Комбинаторная теория переобучения - это новое направление в теории статистического обучения, в рамках которого удалось получить слабо завышенные оценки обобщающей способности для ряда методов обучения. Большинство таких оценок выведены для метода пессимистичной минимизации эмпирического риска, в то время как на практике для обучения алгоритмов классификации используются иные методы. В данном докладе рассматривается вопрос о возможности моделирования метода логистической регрессии с помощью метода пессимистичной минимизации эмпирического риска. Предлагается метод быстрого вычисления комбинаторных оценок для семейства линейных классификаторов, основанный на случайных блужданиях. Приводятся результаты экспериментов по оцениванию кривых обучения логистической регрессии, а также по построению композиций линейных классификаторов с помощью комбинаторных оценок.


© МИАН, 2024