RUS  ENG
Полная версия
СЕМИНАРЫ

Семинар отдела дискретной математики МИАН
21 декабря 2021 г. 16:00, г. Москва, online


Робастность глубоких нейросетей: геометрический подход

Е. В. Бурнаев

Сколковский институт науки и технологий, территория Инновационного Центра "Сколково"

Аннотация: При построении предиктивных моделей важно учитывать геометрическую структуру данных - то, как расположены наблюдения в многомерном пространстве. Обычно, расположение наблюдений хорошо описывается многообразием. Очевидно, что его свойства влияют на точность соответствующих предиктивных моделей. Оценив многообразие данных, мы можем выявить области на многообразии, в которых предиктивная модель не робастна, и, тем самым, становится возможным генерировать как эффективные злонамеренные атаки на модель, так и обеспечивать защиту от них. Доклад посвящён вопросам генерации атак и защиты от них с учётом многообразия данных, а также, в целом, вопросам того, как сравнивать многообразие реальных данных и данных, порождённых генеративной моделью, и за счет этого, например, выявлять искусственно сгенерированные (потенциально, фейковые) наблюдения.


© МИАН, 2024