A study of graph neural networks for link prediction on vulnerability to membership attacks

Графовые нейронные сети (GNN) демонстрируют большие перспективы в решении множества задач, связанных с графовыми данными, включая системы рекомендаций. Однако по мере того, как GNN получают более широкое распространение в практических приложениях, возникают опасения по поводу их уязвимости к состязательным атакам. Эти атаки могут привести к предвзятым рекомендациям, что потенциально может привести к экономическим потерям и рискам для безопасности. В этой работе мы рассматриваем промышленное применение рекомендательных систем для транспортной логистики и изучаем их уязвимость к атакам на членство (membership attacks). Набор данных представляет собой реальные потоки поездов в России, опубликованные в проекте ETIS. Эксперименты с тремя популярными архитектурами GNN показывают, что все они могут быть успешно атакованы, даже если у противника есть лишь минимальные знания о контексте. В частности, злоумышленник, имеющий доступ только к 1-2% фактических данных, может успешно обучить свою собственную модель GNN, чтобы сделать вывод о наличии связи грузоотправитель-грузополучатель в обучающем наборе с точностью более 94%. Наше исследование также подтверждает, что оверфиттинг является основным фактором, влияющим на эффективность атак на рекомендательные системы. Библ. – 35 назв.