prikaz prve stranice dokumenta Podešavanje velikih jezičnih modela korištenjem tehnika poravnanja preferenci za identifikaciju investicijskih prilika
Rad nije dostupan
završni rad
Podešavanje velikih jezičnih modela korištenjem tehnika poravnanja preferenci za identifikaciju investicijskih prilika
Zagreb: Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, 2024. urn:nbn:hr:168:258539
Josipović, Borna
Sveučilište u Zagrebu
Fakultet elektrotehnike i računarstva

Institucijski repozitorij: Repozitorij FER-a

Citirajte ovaj rad

Josipović, B. (2024). Podešavanje velikih jezičnih modela korištenjem tehnika poravnanja preferenci za identifikaciju investicijskih prilika (Završni rad). Zagreb: Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva. Preuzeto s https://urn.nsk.hr/urn:nbn:hr:168:258539

Josipović, Borna. "Podešavanje velikih jezičnih modela korištenjem tehnika poravnanja preferenci za identifikaciju investicijskih prilika." Završni rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, 2024. https://urn.nsk.hr/urn:nbn:hr:168:258539

Josipović, Borna. "Podešavanje velikih jezičnih modela korištenjem tehnika poravnanja preferenci za identifikaciju investicijskih prilika." Završni rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, 2024. https://urn.nsk.hr/urn:nbn:hr:168:258539

Josipović, B. (2024). 'Podešavanje velikih jezičnih modela korištenjem tehnika poravnanja preferenci za identifikaciju investicijskih prilika', Završni rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, citirano: 06.11.2024., https://urn.nsk.hr/urn:nbn:hr:168:258539

Josipović B. Podešavanje velikih jezičnih modela korištenjem tehnika poravnanja preferenci za identifikaciju investicijskih prilika [Završni rad]. Zagreb: Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva; 2024 [pristupljeno 06.11.2024.] Dostupno na: https://urn.nsk.hr/urn:nbn:hr:168:258539

B. Josipović, "Podešavanje velikih jezičnih modela korištenjem tehnika poravnanja preferenci za identifikaciju investicijskih prilika", Završni rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, Zagreb, 2024. Dostupno na: https://urn.nsk.hr/urn:nbn:hr:168:258539

Za citiranje koristite ovu mrežnu adresu: https://urn.nsk.hr/urn:nbn:hr:168:258539
Podaci o radu
NaslovPodešavanje velikih jezičnih modela korištenjem tehnika poravnanja preferenci za identifikaciju investicijskih prilika
Naslov (engleski)Tuning large language models using preference alignment techniques to identify investment opportunities
AutorBorna Josipović
MentorMario Brčić (mentor)
Član povjerenstvaMario Brčić (predsjednik povjerenstva)
Član povjerenstvaMihael Kovač (član povjerenstva)
Član povjerenstvaKristina Ćaleta (član povjerenstva)
Ustanova koja je dodijelila
akademski / stručni stupanj		Sveučilište u Zagrebu
Fakultet elektrotehnike i računarstva
Zagreb
Datum i država obrane2024-07-05, Hrvatska
Znanstveno / umjetničko
područje, polje i grana		TEHNIČKE ZNANOSTI
Računarstvo
Sažetak
Cilj ovog rada bio je istražiti metode podržanog učenja kako bi podesili veliki jezični model za prepoznavanje investicijskih prilika. Fokus je bio na dvije metode: izravno poravnavanje preferenci (DPO) i podržano učenje iz povratnih informacija ljudi (RLHF). Skup podataka izgrađen je koristeći vlastite scraper skripte te filtriranjem i procesiranjem članaka. Skup podataka u završnom obliku imao je oko 35 tisuća elemenata. Metoda DPO se pokazala kao jednostavno i učinkovito rješenje za naš problem, dok je metoda RLHF nepotrebno komplicirana i prezahtjevna. Rezultati su pokazali poboljšanje modela koristeći metodu DPO. Također je naglašena važnost prepoznavanja i upotrebe pravilne metode za specifični problem koji se rješava.
Sažetak (engleski)
The goal of this bachelors thesis was to explore methods of reinforcement learning to fine-tune a large language model to recognize financial investment oppportunities. The focus was on two methods: direct preference optimisation (DPO) and reinforcement learning from human feedback (RLHF). The datawas was built using self-made scraper tools and methods of filtering and processing the articles. The final version of the dataset had around 35 thousand articles. DPO showed itself to be a very simple, useful and efficient method to implement, while RLHF turned out to be too complex and taxing. The results showed that the model was learning using the DPO method and that it is crucial to recognize and pick a method which aligns itself with our goals and problems.
Ključne riječi
Ključne riječi (engleski)
Jezikhrvatski
URN:NBNurn:nbn:hr:168:258539
Studijski programNaziv: Računarstvo
Vrsta studija: sveučilišni
Stupanj studija: preddiplomski
Akademski / stručni naziv: sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva (univ.bacc.ing.comp.)
Vrsta resursaTekst
Način izrade datotekeIzvorno digitalna
Prava pristupaZatvoreni pristup
Uvjeti korištenjaIkona licence Zaštićeno autorskim pravom.
Javna napomena
Datum i vrijeme pohrane2024-10-12 20:57:27