prikaz prve stranice dokumenta Otkrivanje privatnih informacija u jezičnim modelima -- napadi i obrane
Rad nije dostupan
diplomski rad
Otkrivanje privatnih informacija u jezičnim modelima -- napadi i obrane
Zagreb: Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, 2021. urn:nbn:hr:168:380605
Ćavar, Katarina
Sveučilište u Zagrebu
Fakultet elektrotehnike i računarstva

Institucijski repozitorij: Repozitorij FER-a

Citirajte ovaj rad

Ćavar, K. (2021). Otkrivanje privatnih informacija u jezičnim modelima -- napadi i obrane (Diplomski rad). Zagreb: Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva. Preuzeto s https://urn.nsk.hr/urn:nbn:hr:168:380605

Ćavar, Katarina. "Otkrivanje privatnih informacija u jezičnim modelima -- napadi i obrane." Diplomski rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, 2021. https://urn.nsk.hr/urn:nbn:hr:168:380605

Ćavar, Katarina. "Otkrivanje privatnih informacija u jezičnim modelima -- napadi i obrane." Diplomski rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, 2021. https://urn.nsk.hr/urn:nbn:hr:168:380605

Ćavar, K. (2021). 'Otkrivanje privatnih informacija u jezičnim modelima -- napadi i obrane', Diplomski rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, citirano: 28.12.2024., https://urn.nsk.hr/urn:nbn:hr:168:380605

Ćavar K. Otkrivanje privatnih informacija u jezičnim modelima -- napadi i obrane [Diplomski rad]. Zagreb: Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva; 2021 [pristupljeno 28.12.2024.] Dostupno na: https://urn.nsk.hr/urn:nbn:hr:168:380605

K. Ćavar, "Otkrivanje privatnih informacija u jezičnim modelima -- napadi i obrane", Diplomski rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, Zagreb, 2021. Dostupno na: https://urn.nsk.hr/urn:nbn:hr:168:380605

Za citiranje koristite ovu mrežnu adresu: https://urn.nsk.hr/urn:nbn:hr:168:380605
Podaci o radu
NaslovOtkrivanje privatnih informacija u jezičnim modelima -- napadi i obrane
Naslov (engleski)Exposure of Private Data in Language Models -- Attacks and Defenses
AutorKatarina Ćavar
MentorAnte Đerek (mentor)
Član povjerenstvaAnte Đerek (predsjednik povjerenstva)
Član povjerenstvaMarin Golub (član povjerenstva)
Član povjerenstvaGoran Delač (član povjerenstva)
Ustanova koja je dodijelila
akademski / stručni stupanj		Sveučilište u Zagrebu
Fakultet elektrotehnike i računarstva
Zagreb
Datum i država obrane2021-02-17, Hrvatska
Znanstveno / umjetničko
područje, polje i grana		TEHNIČKE ZNANOSTI
Računarstvo
Sažetak
U posljednje vrijeme, sve se više jezičnih modela koristi u raznim kompanijama s raznim primjenama. Razvojem jezičnih modela, problem pamćenja osjetljivih podataka sve je veći, te je potrebno staviti veći fokus na sigurnosni aspekt jezičnih modela, to jest razvijati načine za sprječavanje jezičnih modela od učenja osjetljivih podataka. U ovom Diplomskom radu, cilj je bio pokušati spriječiti model od učenja osjetljivih podataka metodama maskiranja, odnosno maskiranjem osjetljivih podataka u setu podataka prije nego podaci uopće stignu do jezičnog modela. Metode maskiranja su predstavljene kao alternativa popularnoj strategiji diferencijalne privatnosti (differential privacy), koja se uobičajeno koristi u ovu svrhu. Da bismo bili sigurni da metode maskiranja rade, potrebno je provjeriti dva aspekta – jesmo li uspješno maskirali sve osjetljve podatke te jesmo li maskiranjem narušili uspješnost jezičnog modela. Kroz poglavlja, istraženo je mnogo različitih pristupa metodama maskiranja. Za svaku pojedinu metodu, priloženo je nekoliko primjera rada, te je priložena diskusija o konačnim rezultatima maskiranja te uspješnosti jezičnog modela nad podacima. Za svaku je metodu objašnjeno kako radi te što točno znače pojedine vrijednosti metrika jezičnog modela. Glavne metode za maskiranje obrađene ovim radom uključuju regularne izraze, prepoznavanje imenovanih entiteta te izuzimanje riječi koje ne spadaju u Engleski jezik.
Sažetak (engleski)
Having many language models being trained and used in more and more companies and use cases, it is becoming increasingly important to be able to prevent these models from learning sensitive data from their inputs. In this Master’s thesis, the aim is to explore methods of masking sensitive data in datasets that are being fed to language models, as an alternative to the popular method of differential privacy, all while maintaining a satisfactory level of performance of the final model. In the chapters, many masking approaches are discussed and tested. For every approach, a detailed discussion is provided, explaining why each method behaves in a way that it does, what are the benefits, the drawbacks and what are the potential risks of each method. The main methods used for the task of masking are ones that involve regular expressions, Named Entity Recognition and recognizing English words.
Ključne riječi
Ključne riječi (engleski)
Jezikengleski
URN:NBNurn:nbn:hr:168:380605
Studijski programNaziv: Računarstvo
Vrsta studija: sveučilišni
Stupanj studija: diplomski
Akademski / stručni naziv: magistar/magistra inženjer/inženjerka računarstva (mag.ing.comp.)
Vrsta resursaTekst
Način izrade datotekeIzvorno digitalna
Prava pristupaZatvoreni pristup
Uvjeti korištenjaIkona licence Zaštićeno autorskim pravom.
Javna napomena
Datum i vrijeme pohrane2023-01-13 12:03:43