"Записки научных семинаров ПОМИ"
Том 530, стр. 128-140
Реалистичные состязательные атаки на детекторы объектов с использованием порождающих моделей
Д. Шелепнева, К. Архипенко
Ivannikov Institute for System Programming of the RAS
d-d-sh@ispras.ru
arkhipenko@ispras.ru
- Аннотация:
Важным ограничением существующих состязательных атак на детекторы реальных объектов
является их модель угроз: состязательные методы, основанные на исправлениях, часто создают
подозрительные изображения, в то время как подходы с порождением изображений не ограничивают
возможности злоумышленника по изменению исходной сцены. Мы разрабатываем модель угроз,
в которой злоумышленник изменяет отдельные сегменты изображения и должен создавать
\textit{реалистичные} изображения. Мы также разрабатываем и оцениваем атаку в модели белого
ящика (white box), которая использует порождающие состязательные сети и диффузионные модели
в качестве генератора вредоносных изображений. Наша атака способна создавать изображения
высокой точности, измеренные с помощью расстояния Фреше (FID), и уменьшает mAP модели
Faster R-CNN на >0.2 в наборах данных Cityscapes и COCO-Stuff. Реализация нашей атаки на
PyTorch доступна по адресу \texttt{https://github.com/DariaShel/gan-attack}.
Библ. -- 32 назв.
- Ключевые слова: состязательные примеры, распознавание объектов,
порождающие состязательные сети, диффузионные модели
[adversarial examples, object detectors, generative adversarial networks, diffusion models]
Полный текст(.pdf)