Виды атак на федеративные нейросети и способы защиты

Федеративное обучение — это технология обучения с сохранением конфиденциальности в распределенных системах хранения данных. Такое обучение позволяет создать общую модель прогнозирования, сохраняя все данные в своих системах хранения. В обучении общей модели учувствуют несколько устройств, при этом каждое устройство имеет свои уникальные данные, на которых обучается нейросеть. Взаимодействие устройств происходит только для корректировки весов общей модели. После чего, обновленная модель передается на все устройства. Обучение на нескольких устройствах рождает множество возможностей для атак на этот тип сетей.