prikaz prve stranice dokumenta Poravnavanje višejezičnih reprezentacija radi postizanja boljih rezultata na međujezičnom zaključivanju
Rad nije dostupan
diplomski rad
Poravnavanje višejezičnih reprezentacija radi postizanja boljih rezultata na međujezičnom zaključivanju
Zagreb: Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, 2023. urn:nbn:hr:168:684681
Rajnović, Marko
Sveučilište u Zagrebu
Fakultet elektrotehnike i računarstva

Institucijski repozitorij: Repozitorij FER-a

Citirajte ovaj rad

Rajnović, M. (2023). Poravnavanje višejezičnih reprezentacija radi postizanja boljih rezultata na međujezičnom zaključivanju (Diplomski rad). Zagreb: Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva. Preuzeto s https://urn.nsk.hr/urn:nbn:hr:168:684681

Rajnović, Marko. "Poravnavanje višejezičnih reprezentacija radi postizanja boljih rezultata na međujezičnom zaključivanju." Diplomski rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, 2023. https://urn.nsk.hr/urn:nbn:hr:168:684681

Rajnović, Marko. "Poravnavanje višejezičnih reprezentacija radi postizanja boljih rezultata na međujezičnom zaključivanju." Diplomski rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, 2023. https://urn.nsk.hr/urn:nbn:hr:168:684681

Rajnović, M. (2023). 'Poravnavanje višejezičnih reprezentacija radi postizanja boljih rezultata na međujezičnom zaključivanju', Diplomski rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, citirano: 26.12.2024., https://urn.nsk.hr/urn:nbn:hr:168:684681

Rajnović M. Poravnavanje višejezičnih reprezentacija radi postizanja boljih rezultata na međujezičnom zaključivanju [Diplomski rad]. Zagreb: Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva; 2023 [pristupljeno 26.12.2024.] Dostupno na: https://urn.nsk.hr/urn:nbn:hr:168:684681

M. Rajnović, "Poravnavanje višejezičnih reprezentacija radi postizanja boljih rezultata na međujezičnom zaključivanju", Diplomski rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, Zagreb, 2023. Dostupno na: https://urn.nsk.hr/urn:nbn:hr:168:684681

Za citiranje koristite ovu mrežnu adresu: https://urn.nsk.hr/urn:nbn:hr:168:684681
Podaci o radu
NaslovPoravnavanje višejezičnih reprezentacija radi postizanja boljih rezultata na međujezičnom zaključivanju
Naslov (engleski)Aligning multilingual embeddings to achieve better cross-lingual performance
AutorMarko Rajnović
MentorJan Šnajder (mentor)
Član povjerenstvaJan Šnajder (predsjednik povjerenstva)
Član povjerenstvaMarko Đurasević (član povjerenstva)
Član povjerenstvaMarko Čupić (član povjerenstva)
Ustanova koja je dodijelila
akademski / stručni stupanj		Sveučilište u Zagrebu
Fakultet elektrotehnike i računarstva
Zagreb
Datum i država obrane2023-07-11, Hrvatska
Sažetak
Višejezično poravnavanje predstavlja jezične vektore više jezika u istom jezičnom prostoru, na način da su semantički slični vektori različitih jezika blizu u vektorskom prostoru. Naš zadatak je bio istražiti ima li poravnavanje utjecaja na performanse modela na naknadnim zadacima te poravnavaju li modeli jezike ako se treniraju u paradigmi "prevedi pa treniraj". Nakon toga treniramo poravnavanje na podacima koji su unutar domene zadataka da pobjedimo osnovne modele. Vizualiziramo skrivene slojeve reprezentacija različitih modela i uspoređujemo ih. Naš zaključak je da paradigma "prevedi pa treniraj" ne poravnava implicitno višejezični vektorski prostor, ali eksplicitno poravnavanje može poboljšati višejezične performanse ako se koriste podaci unutar domene zadatka.
Sažetak (engleski)
Multilingual alignment represents language encodings of multiple languages in the same language space, such that semantically similar encodings across languages are close in the embedding space. We explore whether alignment impacts downstream model performance and whether models implicitly align if the translate-train learning mode is used. Then we train alignment on in-domain parallel data to beat baselines. We visualize the hidden layer representations of various models and compare them. We conclude that translate-train models do not implicitly align embedding spaces, but explicit alignment can improve multilingual performance if done on in-domain data.
Ključne riječi
Ključne riječi (engleski)
Jezikengleski
URN:NBNurn:nbn:hr:168:684681
Studijski programNaziv: Računarstvo
Vrsta studija: sveučilišni
Stupanj studija: diplomski
Akademski / stručni naziv: magistar/magistra inženjer/inženjerka računarstva (mag.ing.comp.)
Vrsta resursaTekst
Način izrade datotekeIzvorno digitalna
Prava pristupaZatvoreni pristup
Uvjeti korištenjaIkona licence Zaštićeno autorskim pravom.
Javna napomena
Datum i vrijeme pohrane2023-10-11 10:19:06