prikaz prve stranice dokumenta Obrada prirodnog jezika korištenjem velikih jezičnih modela
  Preuzmi
PDF 1.03 MB
završni rad
Obrada prirodnog jezika korištenjem velikih jezičnih modela
Rijeka: Sveučilište u Rijeci, Tehnički fakultet, 2024. urn:nbn:hr:190:401784
Putić, Marko
Sveučilište u Rijeci
Tehnički fakultet
Zavod za računarstvo
Katedra za inteligentne računalne sustave

Institucijski repozitorij: Repozitorij Tehničkog fakulteta u Rijeci

Citirajte ovaj rad

Putić, M. (2024). Obrada prirodnog jezika korištenjem velikih jezičnih modela (Završni rad). Rijeka: Sveučilište u Rijeci, Tehnički fakultet. Preuzeto s https://urn.nsk.hr/urn:nbn:hr:190:401784

Putić, Marko. "Obrada prirodnog jezika korištenjem velikih jezičnih modela." Završni rad, Sveučilište u Rijeci, Tehnički fakultet, 2024. https://urn.nsk.hr/urn:nbn:hr:190:401784

Putić, Marko. "Obrada prirodnog jezika korištenjem velikih jezičnih modela." Završni rad, Sveučilište u Rijeci, Tehnički fakultet, 2024. https://urn.nsk.hr/urn:nbn:hr:190:401784

Putić, M. (2024). 'Obrada prirodnog jezika korištenjem velikih jezičnih modela', Završni rad, Sveučilište u Rijeci, Tehnički fakultet, citirano: 23.11.2024., https://urn.nsk.hr/urn:nbn:hr:190:401784

Putić M. Obrada prirodnog jezika korištenjem velikih jezičnih modela [Završni rad]. Rijeka: Sveučilište u Rijeci, Tehnički fakultet; 2024 [pristupljeno 23.11.2024.] Dostupno na: https://urn.nsk.hr/urn:nbn:hr:190:401784

M. Putić, "Obrada prirodnog jezika korištenjem velikih jezičnih modela", Završni rad, Sveučilište u Rijeci, Tehnički fakultet, Rijeka, 2024. Dostupno na: https://urn.nsk.hr/urn:nbn:hr:190:401784

Za citiranje koristite ovu mrežnu adresu: https://urn.nsk.hr/urn:nbn:hr:190:401784
Podaci o radu
NaslovObrada prirodnog jezika korištenjem velikih jezičnih modela
Naslov (engleski)Natural language processing using large language models
AutorMarko Putić
MentorGoran Mauša (mentor)
Član povjerenstvaMiroslav Joler (predsjednik povjerenstva)
Član povjerenstvaGoran Mauša (član povjerenstva)
Ustanova koja je dodijelila
akademski / stručni stupanj		Sveučilište u Rijeci
Tehnički fakultet
(Zavod za računarstvo)
(Katedra za inteligentne računalne sustave)
Rijeka
Datum i država obrane2024-09-12, Hrvatska
Znanstveno / umjetničko
područje, polje i grana		TEHNIČKE ZNANOSTI
Računarstvo
Sažetak
Ovaj rad ima za cilj proučiti ključne komponente prisutne u procesu obrade prirodnog jezika. Rad počinje od temelja - modela transformera, gdje su razmotreni njihova arhitektura, način rada i uloga u razvoju suvremenih alata za obradu jezika. Transformeri su predstavljeni kao baza jezičnih modela radi učinkovitijeg načina obrađivanja složenih jezičnih struktura u usporedbi s prethodnim modelima. Nadalje, u radu su prikazani postojeći modeli ChatGPT i BERT koji dokazuju da se veliki jezični modeli mogu prilagoditi specifičnim namjenama, od generiranja teksta do analize i klasifikacije istog. Također su istražena rješenja za povećanje učinkovitosti jezičnih modela, kao što su grafički procesori (GPU) i jedinice za obradu tenzora (TPU), pri čemu je utvrđeno kako te tehnologije igraju ključnu ulogu u ubrzavanju i optimizaciji treniranja modela. Kroz rad se naglašava potreba za kontinuiranim razvojem i istraživanjem u području obrade prirodnog jezika, uz dozu opreza i potrebu za čovjekovim nadgledanjem svih procesa i rada umjetne inteligencije.
Sažetak (engleski)
This paper aims to study the key components present in the natural language processing. The paper starts from the foundation - the transformer model, where its architecture, operation and role in the development of modern language processing tools are discussed. Transformers are presented as a base of language models resulting in a more efficient way of processing complex language structures in comparison to previous models. Furthermore, the paper presents the existing ChatGPT and BERT models, which prove that large language models can be adapted to specific purposes, from text generation to analysis and classification. Solutions to increase the efficiency of language models, such as graphic processors (GPUs) and tensor processing units (TPUs) were also explained, finding that these technologies play a key role in speeding up and optimizing model training. The paper emphasizes the need for continuous development and research in the field of natural language processing, with a dose of caution and the need for human supervision of all processes and work of artificial intelligence.
Ključne riječi
Ključne riječi (engleski)
Jezikhrvatski
URN:NBNurn:nbn:hr:190:401784
Studijski programNaziv: Računarstvo
Vrsta studija: sveučilišni
Stupanj studija: preddiplomski
Akademski / stručni naziv: sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva (univ. bacc. ing. comp)
Vrsta resursaTekst
Način izrade datotekeIzvorno digitalna
Prava pristupaOtvoreni pristup
Uvjeti korištenjaIkona licence Imenovanje 4.0 međunarodna (CC BY 4.0)
Datum i vrijeme pohrane2024-09-23 14:01:52