Ļaunprātīgie pretinieku uzbrukumi ceļa zīmju detektoriem

Abstract

Uz mākslīgiem neironiem balstītas sistēmas ir svarīgas pašbraucošu automašīnu redzes sastāvdaļas. Salīdzinot ar citiem mašīnmācīšanās datorredzes risinājumiem, tie sniedz augstāku precizitāti ielas skatu segmentācijā un kustīgu objektu atpazīšanā. Tomēr šādiem mākslīgo neironu tīkliem piemīt trūkumi, piemēram, attēlu iespējams izmainīt tā, ka cilvēks to neuztver, kā nepareizu, bet neironu tīkls tajā redzamo saturu klasificē nepareizi, bojājot tā efektivitāti. Šī bakalaura darba ietvaros tiks izpētītas dažādas uzbrukumu metodes pret attēlu klasifikatoriem, kas apmācīti atpazīt ceļa zīmes, izmantojot brīvi pieejamas ceļa zīmju attēlu kopas. Šīs metodes tiks salīdzinātas, lai noteiktu to efektivitāti un novērtētu to iespējamo pielietojumu praksē.

Artificial neuron-based systems are an important part of self-driving cars' vision. Compared to other machine learning computer vision solutions, they provide a higher accuracy in street view segmentation and recognition of moving objects. However, such artificial neuron networks also have drawbacks, for example, an image can be altered so that the content of the image seems correct to the human eye but the network would misclassify it thus ruining its effectiveness. In this thesis the author will explore different image classification attack methods on a model that's trained to recognize street signs using publicly available image datasets. These methods will be compared to determine their effectiveness and to judge their potential to be used in real world scenarios.