prikaz prve stranice dokumenta Detektiranje trovanja podataka primjenom interpretabilnih modela
Rad nije dostupan
diplomski rad
Detektiranje trovanja podataka primjenom interpretabilnih modela
Zagreb: Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, 2024. urn:nbn:hr:168:865880
Matanović, Anto
Sveučilište u Zagrebu
Fakultet elektrotehnike i računarstva

Institucijski repozitorij: Repozitorij FER-a

Citirajte ovaj rad

Matanović, A. (2024). Detektiranje trovanja podataka primjenom interpretabilnih modela (Diplomski rad). Zagreb: Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva. Preuzeto s https://urn.nsk.hr/urn:nbn:hr:168:865880

Matanović, Anto. "Detektiranje trovanja podataka primjenom interpretabilnih modela." Diplomski rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, 2024. https://urn.nsk.hr/urn:nbn:hr:168:865880

Matanović, Anto. "Detektiranje trovanja podataka primjenom interpretabilnih modela." Diplomski rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, 2024. https://urn.nsk.hr/urn:nbn:hr:168:865880

Matanović, A. (2024). 'Detektiranje trovanja podataka primjenom interpretabilnih modela', Diplomski rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, citirano: 25.11.2024., https://urn.nsk.hr/urn:nbn:hr:168:865880

Matanović A. Detektiranje trovanja podataka primjenom interpretabilnih modela [Diplomski rad]. Zagreb: Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva; 2024 [pristupljeno 25.11.2024.] Dostupno na: https://urn.nsk.hr/urn:nbn:hr:168:865880

A. Matanović, "Detektiranje trovanja podataka primjenom interpretabilnih modela", Diplomski rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, Zagreb, 2024. Dostupno na: https://urn.nsk.hr/urn:nbn:hr:168:865880

Za citiranje koristite ovu mrežnu adresu: https://urn.nsk.hr/urn:nbn:hr:168:865880
Podaci o radu
NaslovDetektiranje trovanja podataka primjenom interpretabilnih modela
Naslov (engleski)Detecting data poisoning by means of interpretable models
AutorAnto Matanović
MentorSiniša Šegvić (mentor)
Član povjerenstvaSiniša Šegvić (predsjednik povjerenstva)
Član povjerenstvaAlan Jović (član povjerenstva)
Član povjerenstvaTomislav Hrkać (član povjerenstva)
Ustanova koja je dodijelila
akademski / stručni stupanj		Sveučilište u Zagrebu
Fakultet elektrotehnike i računarstva
Zagreb
Datum i država obrane2024-07-11, Hrvatska
Sažetak
Treniranje dubokih modela je skupo i dugotrajno, a vanjski servisi mogu umetnuti maliciozna stražnja vrata u modele ili podaci s interneta mogu biti zatrovani. Istraživanje napada i obrana je ključno za validaciju podataka i modela. U radu smo predstavili novi pristup koristeći interpretabilni model, pokazavši da objašnjenja malicioznih primjera sadrže više informacija od čistih objašnjenja. Jednostavno K-means grupiranje može odvojiti maliciozne primjere, osim kod napada WaNet zbog minimalnih promjena. Udaljenost objašnjenja čistih i zatrovanih podataka do 10% najbližih čistih objašnjenja pokazuje veću razliku za zatrovane podatke. Udaljenost do 5% čistih objašnjenja daje slične rezultate što potvrđuje ROC krivulja i AUROC vrijednost blizu 1 za svaki napad. Iskoristili smo ovaj podatak za metodu odvajanja čistih i zatrovanih primjeraka, uvođenjem hiperparametra r koji određuje koliko posto primjeraka s najvećim udaljenostima uklanjamo. Parametar r=0.15 se pokazao uspješnim.
Sažetak (engleski)
Training deep models is expensive and time-consuming, and external services might introduce malicious backdoors into the models, or data from the internet could be poisoned. Investigating attacks and defenses is crucial for validating data and models. Our paper presented a new approach using an interpretable model, showing that explanations for malicious examples contain more information than clean explanations. Simple K-means clustering can separate malicious examples, except for WaNet attacks due to minimal changes. The distance between explanations of clean and poisoned data to the closest 10% of clean explanations shows a greater difference for poisoned data. The distance to the closest 5% of clean explanations yields similar results confirmed by the ROC curve and AUROC value close to 1 for each attack. We utilized this information to develop a method for separating clean and poisoned examples by introducing a hyperparameter r that determines the percentage of examples with the greatest distances to be removed. The parameter r=0.15 proved successful.
Ključne riječi
Ključne riječi (engleski)
Jezikhrvatski
URN:NBNurn:nbn:hr:168:865880
Studijski programNaziv: Računarstvo
Vrsta studija: sveučilišni
Stupanj studija: diplomski
Akademski / stručni naziv: magistar/magistra inženjer/inženjerka računarstva (mag.ing.comp.)
Vrsta resursaTekst
Način izrade datotekeIzvorno digitalna
Prava pristupaZatvoreni pristup
Uvjeti korištenjaIkona licence Zaštićeno autorskim pravom.
Javna napomena
Datum i vrijeme pohrane2024-10-12 21:29:57