prikaz prve stranice dokumenta Klasifikacija napada i procjena sigurnosti velikih jezičnih modela
No public access
master's thesis
Klasifikacija napada i procjena sigurnosti velikih jezičnih modela
Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing, 2024. urn:nbn:hr:168:027072
Granoša, Dorian
University of Zagreb
Faculty of Electrical Engineering and Computing

Institutional repository: FER Repository

Cite this document

Granoša, D. (2024). Klasifikacija napada i procjena sigurnosti velikih jezičnih modela (Master's thesis). Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing. Retrieved from https://urn.nsk.hr/urn:nbn:hr:168:027072

Granoša, Dorian. "Klasifikacija napada i procjena sigurnosti velikih jezičnih modela." Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, 2024. https://urn.nsk.hr/urn:nbn:hr:168:027072

Granoša, Dorian. "Klasifikacija napada i procjena sigurnosti velikih jezičnih modela." Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, 2024. https://urn.nsk.hr/urn:nbn:hr:168:027072

Granoša, D. (2024). 'Klasifikacija napada i procjena sigurnosti velikih jezičnih modela', Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, accessed 21 December 2024, https://urn.nsk.hr/urn:nbn:hr:168:027072

Granoša D. Klasifikacija napada i procjena sigurnosti velikih jezičnih modela [Master's thesis]. Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing; 2024 [cited 2024 December 21] Available at: https://urn.nsk.hr/urn:nbn:hr:168:027072

D. Granoša, "Klasifikacija napada i procjena sigurnosti velikih jezičnih modela", Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, Zagreb, 2024. Available at: https://urn.nsk.hr/urn:nbn:hr:168:027072

Metadata
TitleKlasifikacija napada i procjena sigurnosti velikih jezičnih modela
Title (english)Attack classification and security assessment of large language models
AuthorDorian Granoša
MentorJosipa Pina Milišić (mentor)
Committee memberJosipa Pina Milišić (predsjednik povjerenstva)
Committee memberMate Puljiz (član povjerenstva)
Committee memberDomagoj Kovačević (član povjerenstva)
GranterUniversity of Zagreb
Faculty of Electrical Engineering and Computing
Zagreb
Defense date and country2024-09-18, Croatia
Abstract
Veliki jezični modeli (LLMs), kao što su GPT-4, Llama i Claude, omogućili su stroje- vima da razumiju i generiraju ljudski jezik s izuzetnom točnošću. Ovi su modeli imaju razne primjenama, od korisničke službe i financija do zdravstvene skrbi, pokazujući nji- hovu svestranost i potencijal. Međutim, korištenje velikih jezičnih modela donosi zna- čajne izazove, posebno u pogledu stvaranja štetnog ili pristranog sadržaja. Ovaj diplom- ski rad istražuje sigurnosne probleme LLM-ova, fokusirajući se na automatizirano napa- danje i mehanizme detekcije. Automatizirano napadanje uključuje simulaciju napada kako bi se identificirale ranjivosti, dok automatizirani detektori procjenjuju jesu li ti na- padi uspješni. Analizira se kako korištenje različitih modela utječe na uspješnost de- tekcije napada. Ovaj rad ima cilj poboljšati razumijevanje sigurnosti LLM-ova i pomoći razvoju otpornijih AI sustava i doprinoseći sigurnoj implementaciji generativnih AI teh- nologija.
Abstract (english)
Large language models (LLMs), such as GPT-4, Llama, and Claude, have enabled ma- chines to understand and generate human language with exceptional accuracy. These models have diverse applications, from customer service and finance to healthcare, demon- strating their versatility and potential. However, the use of large language models brings with it significant challenges, particularly regarding the creation of harmful or biased content. This thesis explores the security issues of LLMs, focusing on automated attack and detection mechanisms. Automated attack involves simulating attacks to identify vulnerabilities, while automated detectors assess whether these attacks are successful. The analysis examines how the use of different models affects the effectiveness of attack detection. This work aims to improve the understanding of LLM security and aid in the development of more resilient AI systems, contributing to the safe implementation of generative AI technologies.
Keywords
Keywords (english)
Languagecroatian
URN:NBNurn:nbn:hr:168:027072
Study programmeTitle: Computing
Study programme type: university
Study level: graduate
Academic / professional title: magistar/magistra inženjer/inženjerka računarstva (magistar/magistra inženjer/inženjerka računarstva)
Type of resourceText
File originBorn digital
Access conditionsClosed access
Terms of useLicence In copyright icon
Public note
Created on2024-10-12 20:41:26