Naslov
Neprijateljski napadi na klasifikacijske modele uz višekriterijsku optimizaciju
(Adversarial attacks on classification models using multi-objective optimization)

Autori
Dujmović, Bruna

Vrsta, podvrsta i kategorija rada
Ocjenski radovi, diplomski rad, preddiplomski

Fakultet
Fakultet elektrotehnike i računarstva

Mjesto
Zagreb

Datum
01.07

Godina
2020

Stranica
40

Mentor
Jakobović, Domagoj

Ključne riječi
višekriterijska optimizacija ; neprijateljski napadi ; umjetne neuronske mreže ; klasifikacija slike
(multi-objective optimization ; adversarial attacks ; artificial neural networks ; image recognition)

Sažetak
Ovaj se rad bavi black-box napadima na modele za klasifikaciju slike uz odabrane algoritme za višekriterijsku optimizaciju, NSGA-II i SPEA2. Neprijateljski napadi prikazani su kao problemi višekriterijske optimizacije te su kao takvi i implementirani. Klasifikacijski modeli predstavljeni su dvjema umjetnim neuronskim mrežama, potpuno povezanom i konvolucijskom, koje su trenirane i ispitane na MNIST skupu slika rukom pisanih znamenki uz visoku točnost. Generirani su neprijateljski uzorci dodavanjem evoluiranog šuma vektoriziranim MNIST slikama. Značajno više uspješnih neprijateljskih uzoraka dobiveno je za neusmjerene napade u odnosu na usmjerene te za potpuno povezani model u odnosu na konvolucijski. Nije opažena značajna razlika u količini uspješnih napada s obzirom na algoritam višekriterijske optimizacije.

Izvorni jezik
Hrvatski

Znanstvena područja
Računarstvo

POVEZANOST RADA