prikaz prve stranice dokumenta Obrana dubokih konvolucijskih modela od neprijateljskih primjera
No public access
master's thesis
Obrana dubokih konvolucijskih modela od neprijateljskih primjera
Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing, 2020. urn:nbn:hr:168:116033
Dobrovodski, Matej
University of Zagreb
Faculty of Electrical Engineering and Computing

Institutional repository: FER Repository

Cite this document

Dobrovodski, M. (2020). Obrana dubokih konvolucijskih modela od neprijateljskih primjera (Master's thesis). Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing. Retrieved from https://urn.nsk.hr/urn:nbn:hr:168:116033

Dobrovodski, Matej. "Obrana dubokih konvolucijskih modela od neprijateljskih primjera." Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, 2020. https://urn.nsk.hr/urn:nbn:hr:168:116033

Dobrovodski, Matej. "Obrana dubokih konvolucijskih modela od neprijateljskih primjera." Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, 2020. https://urn.nsk.hr/urn:nbn:hr:168:116033

Dobrovodski, M. (2020). 'Obrana dubokih konvolucijskih modela od neprijateljskih primjera', Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, accessed 04 November 2024, https://urn.nsk.hr/urn:nbn:hr:168:116033

Dobrovodski M. Obrana dubokih konvolucijskih modela od neprijateljskih primjera [Master's thesis]. Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing; 2020 [cited 2024 November 04] Available at: https://urn.nsk.hr/urn:nbn:hr:168:116033

M. Dobrovodski, "Obrana dubokih konvolucijskih modela od neprijateljskih primjera", Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, Zagreb, 2020. Available at: https://urn.nsk.hr/urn:nbn:hr:168:116033

Metadata
TitleObrana dubokih konvolucijskih modela od neprijateljskih primjera
Title (english)Defending Deep Convolutional Models from Adversarial Examples
AuthorMatej Dobrovodski
MentorZoran Kalafatić (mentor)
Committee memberZoran Kalafatić (predsjednik povjerenstva)
Committee memberTomislav Hrkać (član povjerenstva)
Committee memberStjepan Groš (član povjerenstva)
GranterUniversity of Zagreb
Faculty of Electrical Engineering and Computing
Zagreb
Defense date and country2020-07-13, Croatia
Scientific / art field,
discipline and subdiscipline		TECHNICAL SCIENCES
Computing
Abstract
Današnji konvolucijski modeli postižu visoku točnost u području raspoznavanja objekata. Način rada dubokih modela je još uvijek vrlo teško ili nemoguće interpretirati, a dodatan razlog za brigu predstavljaju i takozvani neprijateljski primjeri. U kontekstu raspoznavanja objekata, neprijateljski primjeri su slike s dodanim teško uočljivim perturbacijama koje potiču model na pogrešnu klasifikaciju. Pokazalo se da je vrlo lagano konstruirati snažne napade na postojeće modele koji s lakoćom zavaravaju model. Ubrzo nakon pojave prvih neprijateljskih napada su se pojavile i uspješne obrane protiv tih napada, no nedugo nakon toga pojavljuju se sve jači napadi, dok je uspješnost obrana stagnirala. U radu je dan pregled ranijih napada i jednostavnih obrana, istaknuta je neuspješnost jednostavnih obrana protiv jačih napada te je opisana obećavajuća obrana koja se temelji na treniranju mreže korištenjem neprijateljskih primjera.
Abstract (english)
Today's convolutional models can achieve high accuracy in the field of object recognition. The way deep models work is still very difficult or impossible to interpret, and an additional reason for concern are the so-called adversarial examples. In the context of object recognition, adversarial examples are images with added imperceptible perturbations that encourage the model to misclassify the image. It turned out to be very easy to construct strong attacks on existing models which easily fool the model. Soon after the appearance of the first adversarial attacks, defences against these attacks also appeared. However, stronger attacks appeared not long after that while the success rate of defence methods stagnated. The thesis reviews these early attacks and simple defences and highlights the failure of such defences against strong attackers. Additionally, the thesis describes a promising defence which is based on the concept of adversarial training and has so far shown good results.
Keywords
Keywords (english)
Languagecroatian
URN:NBNurn:nbn:hr:168:116033
Study programmeTitle: Computing
Study programme type: university
Study level: graduate
Academic / professional title: magistar/magistra inženjer/inženjerka računarstva (magistar/magistra inženjer/inženjerka računarstva)
Type of resourceText
File originBorn digital
Access conditionsClosed access
Terms of useLicence In copyright icon
Public note
Created on2023-01-13 12:07:09