Pretinieku uzbrukumi attēlu klasifikatoriem

Abstract

Bakalaura darba mērķis ir izpētīt pretinieku uzbrukumu metožu īstenošanu attēlu klasifikatoriem, izmantojot sintētiskus datus no CARLA simulācijas vides. Darbā tiek analizētas konvolūciju neironu tīklu stiprās un vājās puses, pretinieku uzbrukumu metodes, to mērķi, kā arī pieejas. lai aizsargātos no uzbrukumiem. Eksperimentālā daļā tiek replicēta RP2 (Robust Physical Perturbations) metode, testējot fizisko plāksteru efektivitāti dažādos virtuālās vides apstākļos, kā arī veicot pretinieku uzbrukumus klasifikatoram, kas ir precīzāks nekā oriģinālajā rakstā izmantotais. Rezultāti liecina, ka RP2 metode ir efektīva tuvākos attālumos, taču zaudē efektivitāti pie lielākām distancēm.

The aim of this bachelor thesis is to investigate the implementation of adversarial attack methods on image classifiers using synthetic data generated in the CARLA simulation environment. The thesis analyses the strengths and weaknesses of convolutional neural networks, methods and objectives of adversarial attacks, as well as approaches to defend against attacks. The experimental part replicates the RP2 (Robust Physical Perturbations) method, testing the effectiveness of physical patches under various virtual environment conditions, as well as performing adversarial attacks on a classifier more accurate than the one used in the original paper. Results indicate that the RP2 method is effective at shorter distances but loses effectiveness at longer distances.