"Записки научных семинаров ПОМИ"

Том 530, стр. 113-127

Исследование графовых нейронных сетей для прогнозирования ссылок на уязвимость к атакам на членство

Д. Шайхелисламов, К. Лукьянов, Н. Северин, М. Дробышевский, И. Макаров, Д. Турдаков

Ivannikov Institute for System Programming of the Russian Academy of Sciences, Moscow, Russia; Moscow Institute of Physics and Technology (National Research University), Moscow, Russia; HSE University, Moscow, Russia

shaykhelislamov.ds@ispras.ru

lukyanov@ispras.ru

HSE University, Moscow, Russia

nseverin@hse.ru

drobyshevsky@ispras.ru

Ivannikov Institute for System Programming of the Russian Academy of Sciences, Moscow, Russia; HSE University, Moscow, Russia; ISP RAS Research Center for Trusted Artificial Intelligence, Moscow, Russia

makarov@airi.net

turdakov@ispras.ru

Аннотация: Графовые нейронные сети (GNN) демонстрируют большие перспективы в решении множества задач, связанных с графовыми данными, включая системы рекомендаций. Однако по мере того, как GNN получают более широкое распространение в практических приложениях, возникают опасения по поводу их уязвимости к состязательным атакам. Эти атаки могут привести к предвзятым рекомендациям, что потенциально может привести к экономическим потерям и рискам для безопасности. В этой работе мы рассматриваем промышленное применение рекомендательных систем для транспортной логистики и изучаем их уязвимость к атакам на членство (membership attacks). Набор данных представляет собой реальные потоки поездов в России, опубликованные в проекте ETIS. Эксперименты с тремя популярными архитектурами GNN показывают, что все они могут быть успешно атакованы, даже если у противника есть лишь минимальные знания о контексте. В частности, злоумышленник, имеющий доступ только к 1-2\% фактических данных, может успешно обучить свою собственную модель GNN, чтобы сделать вывод о наличии связи грузоотправитель-грузополучатель в обучающем наборе с точностью более 94\%. Наше исследование также подтверждает, что оверфиттинг является основным фактором, влияющим на эффективность атак на рекомендательные системы. Библ. -- 35 назв.
Ключевые слова: атаки на членство, рекомендательные системы, графовые нейросети [membership inference attacks, recommendation systems, graph neural networks]

Полный текст(.pdf)