prikaz prve stranice dokumenta Klasifikacija napada i procjena sigurnosti velikih jezičnih modela
Rad nije dostupan
diplomski rad
Klasifikacija napada i procjena sigurnosti velikih jezičnih modela
Zagreb: Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, 2024. urn:nbn:hr:168:027072
Granoša, Dorian
Sveučilište u Zagrebu
Fakultet elektrotehnike i računarstva

Institucijski repozitorij: Repozitorij FER-a

Citirajte ovaj rad

Granoša, D. (2024). Klasifikacija napada i procjena sigurnosti velikih jezičnih modela (Diplomski rad). Zagreb: Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva. Preuzeto s https://urn.nsk.hr/urn:nbn:hr:168:027072

Granoša, Dorian. "Klasifikacija napada i procjena sigurnosti velikih jezičnih modela." Diplomski rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, 2024. https://urn.nsk.hr/urn:nbn:hr:168:027072

Granoša, Dorian. "Klasifikacija napada i procjena sigurnosti velikih jezičnih modela." Diplomski rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, 2024. https://urn.nsk.hr/urn:nbn:hr:168:027072

Granoša, D. (2024). 'Klasifikacija napada i procjena sigurnosti velikih jezičnih modela', Diplomski rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, citirano: 19.12.2024., https://urn.nsk.hr/urn:nbn:hr:168:027072

Granoša D. Klasifikacija napada i procjena sigurnosti velikih jezičnih modela [Diplomski rad]. Zagreb: Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva; 2024 [pristupljeno 19.12.2024.] Dostupno na: https://urn.nsk.hr/urn:nbn:hr:168:027072

D. Granoša, "Klasifikacija napada i procjena sigurnosti velikih jezičnih modela", Diplomski rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, Zagreb, 2024. Dostupno na: https://urn.nsk.hr/urn:nbn:hr:168:027072

Za citiranje koristite ovu mrežnu adresu: https://urn.nsk.hr/urn:nbn:hr:168:027072
Podaci o radu
NaslovKlasifikacija napada i procjena sigurnosti velikih jezičnih modela
Naslov (engleski)Attack classification and security assessment of large language models
AutorDorian Granoša
MentorJosipa Pina Milišić (mentor)
Član povjerenstvaJosipa Pina Milišić (predsjednik povjerenstva)
Član povjerenstvaMate Puljiz (član povjerenstva)
Član povjerenstvaDomagoj Kovačević (član povjerenstva)
Ustanova koja je dodijelila
akademski / stručni stupanj		Sveučilište u Zagrebu
Fakultet elektrotehnike i računarstva
Zagreb
Datum i država obrane2024-09-18, Hrvatska
Sažetak
Veliki jezični modeli (LLMs), kao što su GPT-4, Llama i Claude, omogućili su stroje- vima da razumiju i generiraju ljudski jezik s izuzetnom točnošću. Ovi su modeli imaju razne primjenama, od korisničke službe i financija do zdravstvene skrbi, pokazujući nji- hovu svestranost i potencijal. Međutim, korištenje velikih jezičnih modela donosi zna- čajne izazove, posebno u pogledu stvaranja štetnog ili pristranog sadržaja. Ovaj diplom- ski rad istražuje sigurnosne probleme LLM-ova, fokusirajući se na automatizirano napa- danje i mehanizme detekcije. Automatizirano napadanje uključuje simulaciju napada kako bi se identificirale ranjivosti, dok automatizirani detektori procjenjuju jesu li ti na- padi uspješni. Analizira se kako korištenje različitih modela utječe na uspješnost de- tekcije napada. Ovaj rad ima cilj poboljšati razumijevanje sigurnosti LLM-ova i pomoći razvoju otpornijih AI sustava i doprinoseći sigurnoj implementaciji generativnih AI teh- nologija.
Sažetak (engleski)
Large language models (LLMs), such as GPT-4, Llama, and Claude, have enabled ma- chines to understand and generate human language with exceptional accuracy. These models have diverse applications, from customer service and finance to healthcare, demon- strating their versatility and potential. However, the use of large language models brings with it significant challenges, particularly regarding the creation of harmful or biased content. This thesis explores the security issues of LLMs, focusing on automated attack and detection mechanisms. Automated attack involves simulating attacks to identify vulnerabilities, while automated detectors assess whether these attacks are successful. The analysis examines how the use of different models affects the effectiveness of attack detection. This work aims to improve the understanding of LLM security and aid in the development of more resilient AI systems, contributing to the safe implementation of generative AI technologies.
Ključne riječi
Ključne riječi (engleski)
Jezikhrvatski
URN:NBNurn:nbn:hr:168:027072
Studijski programNaziv: Računarstvo
Vrsta studija: sveučilišni
Stupanj studija: diplomski
Akademski / stručni naziv: magistar/magistra inženjer/inženjerka računarstva (mag.ing.comp.)
Vrsta resursaTekst
Način izrade datotekeIzvorno digitalna
Prava pristupaZatvoreni pristup
Uvjeti korištenjaIkona licence Zaštićeno autorskim pravom.
Javna napomena
Datum i vrijeme pohrane2024-10-12 20:41:26