prikaz prve stranice dokumenta Neprijateljski napadi na klasifikacijske modele uz višekriterijsku optimizaciju
No public access
undergraduate thesis
Neprijateljski napadi na klasifikacijske modele uz višekriterijsku optimizaciju
Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing, 2020. urn:nbn:hr:168:565743
Dujmović, Bruna
University of Zagreb
Faculty of Electrical Engineering and Computing

Institutional repository: FER Repository

Cite this document

Dujmović, B. (2020). Neprijateljski napadi na klasifikacijske modele uz višekriterijsku optimizaciju (Undergraduate thesis). Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing. Retrieved from https://urn.nsk.hr/urn:nbn:hr:168:565743

Dujmović, Bruna. "Neprijateljski napadi na klasifikacijske modele uz višekriterijsku optimizaciju." Undergraduate thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, 2020. https://urn.nsk.hr/urn:nbn:hr:168:565743

Dujmović, Bruna. "Neprijateljski napadi na klasifikacijske modele uz višekriterijsku optimizaciju." Undergraduate thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, 2020. https://urn.nsk.hr/urn:nbn:hr:168:565743

Dujmović, B. (2020). 'Neprijateljski napadi na klasifikacijske modele uz višekriterijsku optimizaciju', Undergraduate thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, accessed 17 May 2024, https://urn.nsk.hr/urn:nbn:hr:168:565743

Dujmović B. Neprijateljski napadi na klasifikacijske modele uz višekriterijsku optimizaciju [Undergraduate thesis]. Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing; 2020 [cited 2024 May 17] Available at: https://urn.nsk.hr/urn:nbn:hr:168:565743

B. Dujmović, "Neprijateljski napadi na klasifikacijske modele uz višekriterijsku optimizaciju", Undergraduate thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, Zagreb, 2020. Available at: https://urn.nsk.hr/urn:nbn:hr:168:565743

Metadata
TitleNeprijateljski napadi na klasifikacijske modele uz višekriterijsku optimizaciju
Title (english)Adversarial attacks on classification models using multi-objective optimization
AuthorBruna Dujmović
MentorDomagoj Jakobović (mentor)
Committee memberDomagoj Jakobović (predsjednik povjerenstva)
Committee memberKarlo Knežević (član povjerenstva)
Committee memberIva Jurković (član povjerenstva)
GranterUniversity of Zagreb
Faculty of Electrical Engineering and Computing
Zagreb
Defense date and country2020-07-06, Croatia
Scientific / art field,
discipline and subdiscipline		TECHNICAL SCIENCES
Computing
Abstract
Ovaj se rad bavi black-box napadima na modele za klasifikaciju slike uz odabrane algoritme za višekriterijsku optimizaciju, NSGA-II i SPEA2. Neprijateljski napadi prikazani su kao problemi višekriterijske optimizacije te su kao takvi i implementirani. Klasifikacijski modeli predstavljeni su dvjema umjetnim neuronskim mrežama, potpuno povezanom i konvolucijskom, koje su trenirane i ispitane na MNIST skupu slika rukom pisanih znamenki uz visoku točnost. Generirani su neprijateljski uzorci dodavanjem evoluiranog šuma vektoriziranim MNIST slikama. Značajno više uspješnih neprijateljskih uzoraka dobiveno je za neusmjerene napade u odnosu na usmjerene te za potpuno povezani model u odnosu na konvolucijski. Nije opažena značajna razlika u količini uspješnih napada s obzirom na algoritam višekriterijske optimizacije.
Abstract (english)
This thesis deals with staging black-box attacks on image classification models using selected multi-objective optimization algorithms, NSGA-II and SPEA2. Adversarial attacks are presented as multi-objective optimization problems and are implemented as such. A simple, fully-connected artificial neural network and a convolutional one were built and then trained on the MNIST handwritten digits dataset, achieving high accuracy, to be used as targets for adversarial attacks. Adverarial images were generated by adding evolved noise vectors to vectorized MNIST images. Significantly more successful adversarial images were obtained for untargeted attacks versus targeted ones, and for the simple model versus the convolutional one. No significant difference was observed in the number of successful adversarial images with respect to the type of algorithm with which they were constructed.
Keywords
Keywords (english)
Languagecroatian
URN:NBNurn:nbn:hr:168:565743
Study programmeTitle: Computing
Study programme type: university
Study level: undergraduate
Academic / professional title: sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva (sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva)
Type of resourceText
File originBorn digital
Access conditionsClosed access
Terms of useLicence In copyright icon
Public note
Created on2023-01-13 14:50:58