Adversarial framing for image and video classification

• Autorzy: Zając Michał , Żołna Konrad , Rostamzadeh Negar , Pinheiro Pedro O.
• Języki publikacji: EN

Abstrakty

EN

Neural networks are prone to adversarial attacks. In general, such attacks deteriorate the quality of the input by either slightly modifying most of its pixels, or by occluding it with a patch. In this paper, we propose a method that keeps the image unchanged and only adds an adversarial framing on the border of the image. We show empirically that our method is able to successfully attack state-of-the-art methods on both image and video classification problems. Notably, the proposed method results in a universal attack which is very fast at test time. Source code can be found at https://github.com/zajaczajac/adv_framing.

Słowa kluczowe

EN

adversarial samples; convolutional neural networks; classification

• Wydawca: Wydawnictwo Uniwersytetu Jagiellońskiego
• Czasopismo: Schedae Informaticae
• Rocznik: 2018
• Tom: Vol. 27

Twórcy

autor

Zając Michał

• Jagiellonian University in Kraków

autor

Żołna Konrad

• Jagiellonian University in Kraków

autor

Rostamzadeh Negar

• Element AI, Montreal, Canada

autor

Pinheiro Pedro O.

• Element AI, Montreal, Canada

Uwagi

Opracowanie rekordu w ramach umowy 509/P-DUN/2018 ze środków MNiSW przeznaczonych na działalność upowszechniającą naukę (2019).