prikaz prve stranice dokumenta Pronalaženje sustavnih pogrešaka označavanja u podatcima za učenje
No public access
master's thesis
Pronalaženje sustavnih pogrešaka označavanja u podatcima za učenje
Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing, 2024. urn:nbn:hr:168:969290
Družijanić, Luka
University of Zagreb
Faculty of Electrical Engineering and Computing

Institutional repository: FER Repository

Cite this document

Družijanić, L. (2024). Pronalaženje sustavnih pogrešaka označavanja u podatcima za učenje (Master's thesis). Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing. Retrieved from https://urn.nsk.hr/urn:nbn:hr:168:969290

Družijanić, Luka. "Pronalaženje sustavnih pogrešaka označavanja u podatcima za učenje." Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, 2024. https://urn.nsk.hr/urn:nbn:hr:168:969290

Družijanić, Luka. "Pronalaženje sustavnih pogrešaka označavanja u podatcima za učenje." Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, 2024. https://urn.nsk.hr/urn:nbn:hr:168:969290

Družijanić, L. (2024). 'Pronalaženje sustavnih pogrešaka označavanja u podatcima za učenje', Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, accessed 26 December 2024, https://urn.nsk.hr/urn:nbn:hr:168:969290

Družijanić L. Pronalaženje sustavnih pogrešaka označavanja u podatcima za učenje [Master's thesis]. Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing; 2024 [cited 2024 December 26] Available at: https://urn.nsk.hr/urn:nbn:hr:168:969290

L. Družijanić, "Pronalaženje sustavnih pogrešaka označavanja u podatcima za učenje", Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, Zagreb, 2024. Available at: https://urn.nsk.hr/urn:nbn:hr:168:969290

Metadata
TitlePronalaženje sustavnih pogrešaka označavanja u podatcima za učenje
Title (english)Detecting systematic label errors in training data
AuthorLuka Družijanić
MentorSiniša Šegvić (mentor)
Committee memberSiniša Šegvić (predsjednik povjerenstva)
Committee memberJan Šnajder (član povjerenstva)
Committee memberAdrian Satja Kurdija (član povjerenstva)
GranterUniversity of Zagreb
Faculty of Electrical Engineering and Computing
Zagreb
Defense date and country2024-07-10, Croatia
Abstract
Veliki kapaciteti dubokih modela i ogromna količina podataka potrebna za njihovo učenje omogućava napade zasnovane na trovanju podataka za učenje. Otrovani primjeri sadrže neprimjetan uzorak te im je oznaka promijenjena na određeni ciljni razred. Učen na ovakvim podacima, duboki model će se ponašati normalno na običnim primjerima, no, kada vidi umetnuti okidač, krivo će klasificirati primjer u ciljni razred. Pokazano je da pristup baziran na samonadziranom učenju reprezentacija uspijeva očistiti skup podataka od većine napada. Međutim, napadi koji unose jake deformacije na sliku izbjegavaju ovu obranu jer se ponašaju drugačije u prostoru reprezentacija. Predlažemo poboljšanje čišćenja samonadziranim učenjem dodavanjem koraka smanjenja dimenzionalnosti i grupiranja kako bismo suzbili i disruptivne napade.
Abstract (english)
Large capacities of deep models and the huge amounts of data required for their training enables backdoor attacks based on data poisoning. Poisoned samples contain an unperceptible pattern, and their label is changed into a target class. Trained on such data, a deep model will behave normally on regular samples, but will misclassify samples with the backdoor trigger pattern into the target class. It has been shown that an approach based on self-supervised representation learning can clean the training dataset from these attacks. However, attacks that inject strong perturbations into poisoned samples are not detected by cleansing based on self-supervised representations due to very different behaviours in latent representation space. We suggest an improvement of the self-supervised cleansing method by adding dimensionality reduction and clustering steps to detect disruptive attacks.
Keywords
Keywords (english)
Languagecroatian
URN:NBNurn:nbn:hr:168:969290
Study programmeTitle: Computing
Study programme type: university
Study level: graduate
Academic / professional title: magistar/magistra inženjer/inženjerka računarstva (magistar/magistra inženjer/inženjerka računarstva)
Type of resourceText
File originBorn digital
Access conditionsClosed access
Terms of useLicence In copyright icon
Public note
Created on2024-10-12 20:28:06