prikaz prve stranice dokumenta Obrane klasifikacijskih modela od napada trovanjem podataka
Rad nije dostupan
završni rad
Obrane klasifikacijskih modela od napada trovanjem podataka
Zagreb: Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, 2023. urn:nbn:hr:168:445913
Capan, Nikola
Sveučilište u Zagrebu
Fakultet elektrotehnike i računarstva

Institucijski repozitorij: Repozitorij FER-a

Citirajte ovaj rad

Capan, N. (2023). Obrane klasifikacijskih modela od napada trovanjem podataka (Završni rad). Zagreb: Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva. Preuzeto s https://urn.nsk.hr/urn:nbn:hr:168:445913

Capan, Nikola. "Obrane klasifikacijskih modela od napada trovanjem podataka." Završni rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, 2023. https://urn.nsk.hr/urn:nbn:hr:168:445913

Capan, Nikola. "Obrane klasifikacijskih modela od napada trovanjem podataka." Završni rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, 2023. https://urn.nsk.hr/urn:nbn:hr:168:445913

Capan, N. (2023). 'Obrane klasifikacijskih modela od napada trovanjem podataka', Završni rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, citirano: 22.11.2024., https://urn.nsk.hr/urn:nbn:hr:168:445913

Capan N. Obrane klasifikacijskih modela od napada trovanjem podataka [Završni rad]. Zagreb: Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva; 2023 [pristupljeno 22.11.2024.] Dostupno na: https://urn.nsk.hr/urn:nbn:hr:168:445913

N. Capan, "Obrane klasifikacijskih modela od napada trovanjem podataka", Završni rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, Zagreb, 2023. Dostupno na: https://urn.nsk.hr/urn:nbn:hr:168:445913

Za citiranje koristite ovu mrežnu adresu: https://urn.nsk.hr/urn:nbn:hr:168:445913
Podaci o radu
NaslovObrane klasifikacijskih modela od napada trovanjem podataka
Naslov (engleski)Defence of classification models from data-poisoning attacks
AutorNikola Capan
MentorSiniša Šegvić (mentor)
Član povjerenstvaSiniša Šegvić (član povjerenstva)
Član povjerenstvaIvan Grubišić (član povjerenstva)
Član povjerenstvaZorana Doždor (član povjerenstva)
Ustanova koja je dodijelila
akademski / stručni stupanj		Sveučilište u Zagrebu
Fakultet elektrotehnike i računarstva
Zagreb
Datum i država obrane2023-07-06, Hrvatska
Znanstveno / umjetničko
područje, polje i grana		TEHNIČKE ZNANOSTI
Računarstvo
Sažetak
Ovaj rad se bavi napadima na duboke konvolucijske modele trovanjem podataka za treniranje. Cilj takvih napada je istrenirati model da u normalnim okolnostima radi dobro i ispravno, ali u prisustvu određenog okidača, radi u skladu s napadačevim ciljevima. Dosadašnji takvi napadi su uglavnom taj okidač dizajnirali tako da je on ograničen na mali prostor slike. U ovom radu, okidač koji je korišten se proteže po cijeloj slici i izuzetno je neprimjetan ljudskom oku. To je izvedeno modifikacijom piksela u frekvencijskoj domeni slika, umjesto u prostornoj. Ovakav napad se pokazao izuzetno uspješnim na skupovima MNIST, CIFAR10 i PubFig. Mehanizam obrane koji je uspio drastično umanjiti uspješnost napada je jednostavno filtriranje svih slika za treniranje Gaussovim filtrom. Model naučen na takvom skupu, s obzirom da su slike puno mutnije, pokazuje nešto lošije rezultate i na čistim, neotrovanim slikama.
Sažetak (engleski)
This paper deals with the attacks on deep convolutional models by poisoning the training dana. The goal of such attacks is to train a model to behave normally in usual conditions, but in presence of a particular trigger, do what the attacker wants. The triggers in existing such attacks were mostly spatially limited on training images. Trigger that was used in this paper is dispersed across whole image which makes it invisable to humans. It was accomplished by modifying the pixels in frequency domain of training images, instead of spatial. This attack has proven to be successful on MNIST, CIFAR and PubFig training sets. Defence mechanism that significantly decreased the success of the attack is simple filtering all of the training images with Gaussian filter. The model trained on such filtered set shows slightly worse results on clean, unpoisoned images, because the training images were blurrier.
Ključne riječi
Ključne riječi (engleski)
Jezikhrvatski
URN:NBNurn:nbn:hr:168:445913
Studijski programNaziv: Računarstvo
Vrsta studija: sveučilišni
Stupanj studija: preddiplomski
Akademski / stručni naziv: sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva (univ.bacc.ing.comp.)
Vrsta resursaTekst
Način izrade datotekeIzvorno digitalna
Prava pristupaZatvoreni pristup
Uvjeti korištenjaIkona licence Zaštićeno autorskim pravom.
Javna napomena
Datum i vrijeme pohrane2023-10-11 08:35:13