Аннотация:
Доклад посвящен PAC-байесовскому обучению (PAC-Bayes supervised learning) - относительно новому и многообещающему направлению в теории статистического обучения. Данный подход позволяет с легкостью получать вычислимые по данным оценки обобщающей способности (как классический подход Вапника-Червоненкиса), учитывающие при этом априорную информацию о задаче (как байесовские подходы). В докладе будет приведен обзор основных результатов подхода, включая наиболее сильные из известных на сегодняшний день: PAC-байесовское kl-неравенство М.Зигера (PAC-Bayes-kl) и PAC-байесовское неравенство Бернштейна, предложенное Е.Сельдиным и соавторами. Также будет приведено новое PAC-байесовское эмпирическое неравенство Бернштейна, основанное на технике самоограничивающих функций (self-bounding functions) в теории неравенств концентрации. Предлагаемое неравенство улучшает упомянутые выше результаты в том случае, когда эмпирический риск рассматриваемых отображений существенно превышает выборочную дисперсию их ошибок.
|
