prikaz prve stranice dokumenta Evaluacija pristupa poboljšavanja velikih jezičnih modela na temelju metoda podržanog učenja
No public access
master's thesis
Evaluacija pristupa poboljšavanja velikih jezičnih modela na temelju metoda podržanog učenja
Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing, 2024. urn:nbn:hr:168:274755
Bokšić, Iva
University of Zagreb
Faculty of Electrical Engineering and Computing

Institutional repository: FER Repository

Cite this document

Bokšić, I. (2024). Evaluacija pristupa poboljšavanja velikih jezičnih modela na temelju metoda podržanog učenja (Master's thesis). Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing. Retrieved from https://urn.nsk.hr/urn:nbn:hr:168:274755

Bokšić, Iva. "Evaluacija pristupa poboljšavanja velikih jezičnih modela na temelju metoda podržanog učenja." Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, 2024. https://urn.nsk.hr/urn:nbn:hr:168:274755

Bokšić, Iva. "Evaluacija pristupa poboljšavanja velikih jezičnih modela na temelju metoda podržanog učenja." Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, 2024. https://urn.nsk.hr/urn:nbn:hr:168:274755

Bokšić, I. (2024). 'Evaluacija pristupa poboljšavanja velikih jezičnih modela na temelju metoda podržanog učenja', Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, accessed 04 January 2025, https://urn.nsk.hr/urn:nbn:hr:168:274755

Bokšić I. Evaluacija pristupa poboljšavanja velikih jezičnih modela na temelju metoda podržanog učenja [Master's thesis]. Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing; 2024 [cited 2025 January 04] Available at: https://urn.nsk.hr/urn:nbn:hr:168:274755

I. Bokšić, "Evaluacija pristupa poboljšavanja velikih jezičnih modela na temelju metoda podržanog učenja", Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, Zagreb, 2024. Available at: https://urn.nsk.hr/urn:nbn:hr:168:274755

Metadata
TitleEvaluacija pristupa poboljšavanja velikih jezičnih modela na temelju metoda podržanog učenja
Title (english)Evaluation of Approaches for Enhancing Large Language Models based on Reinforcement Learning Methods
AuthorIva Bokšić
MentorDamir Pintar (mentor)
Committee memberDamir Pintar (predsjednik povjerenstva)
Committee memberMihaela Vranić (član povjerenstva)
Committee memberLuka Humski (član povjerenstva)
GranterUniversity of Zagreb
Faculty of Electrical Engineering and Computing
Zagreb
Defense date and country2024-02-27, Croatia
Abstract
Istraživački rad fokusira se na primjenu podržanog učenja iz ljudskih povratnih informacija (RLHF) za razvoj modela sažimanja teksta. Kroz korištenje nadziranog finog podešavanja i optimizacije proksimalne politike, analizirane su mogućnosti prilagodbe modela ljudskim preferencijama. Rezultati pokazuju uspješnost modela u sažimanju teksta, ali i izazove u postizanju potpune usklađenosti s ljudskim evaluacijama. Nestabilnost tijekom učenja, ograničeni datasetovi te odabir hiperparametara ističu se kao ključni čimbenici utjecaja na performanse modela. Ovi nalazi ukazuju na potrebu daljnjih istraživanja i prilagodbi kako bi se ostvarila bolja usklađenost modela sa željenim ljudskim preferencijama u sažimanju teksta.
Abstract (english)
The research paper focuses on the application of Reinforcement Learning from Human Feedback (RLHF) for developing abstractive text summarization models. By employing supervised fine-tuning and proximal policy optimization, the possibilities of adapting the model to human preferences were analyzed. The results demonstrate the success of the model in text summarization but also highlight challenges in achieving complete alignment with human evaluations. Instabilities during learning, limited datasets, and the selection of hyperparameters stand out as crucial factors influencing the model's performance. These findings indicate the need for further research and adjustments to achieve better alignment of the model with desired human preferences in text summarization.
Keywords
Keywords (english)
Languagecroatian
URN:NBNurn:nbn:hr:168:274755
Study programmeTitle: Computing
Study programme type: university
Study level: graduate
Academic / professional title: magistar/magistra inženjer/inženjerka računarstva (magistar/magistra inženjer/inženjerka računarstva)
Type of resourceText
File originBorn digital
Access conditionsClosed access
Terms of useLicence In copyright icon
Public note
Created on2024-03-28 07:43:55