Устойчивость моделей глубокого обучения

В последнее время модели глубокого обучения получили повсеместное применение. Однако уязвимость к малозаметным состязательным атакам, чувствительность к естественным шумах и семантическим возмущениям и рост рисков подделки голоса является актуальной проблемой, особенно для высокорисковых приложений, как медицина или биометрия.
Целью исследования является разработка новых сертифицируемых (доказуемых) и эмпирических методов, обеспечивающих устойчивость, доверенность и приватность моделей без существенных ограничений для их применения. Методологическая основа включает развитие сертификации классификаторов изображений к композициям семантических возмущений и прототипических векторных моделей к аддитивным возмущениям на основе случайного сглаживания и статистических методов, а также проектирование универсальных состязательных возмущений для приватности (анонимизации) говорящего и развитие моделей голосового антиспуфинга.
По результатам работы предложен новый вычислительно-аналитический метод сертификации устойчивости классификаторов изображений к широкому классу композиционных преобразований на основе анализа Липшицевости модели относительно параметров возмущения. Получены улучшенные гарантии сертификации прототипических моделей и впервые для задач идентификации говорящего. Также представлен способ анонимизации речи с использованием экспоненциальной общедисперсионной функции потерь и новой стратегии добавления возмущений. Более того, предложены новые архитектуры детекции синтетической речи на основе сетей Колмогорова-Арнольда.