prikaz prve stranice dokumenta Praktični izazovi u aktivnom učenju za obradu prirodnog jezika
No public access
master's thesis
Praktični izazovi u aktivnom učenju za obradu prirodnog jezika
Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing, 2021. urn:nbn:hr:168:612329
Vladika, Juraj
University of Zagreb
Faculty of Electrical Engineering and Computing

Institutional repository: FER Repository

Cite this document

Vladika, J. (2021). Praktični izazovi u aktivnom učenju za obradu prirodnog jezika (Master's thesis). Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing. Retrieved from https://urn.nsk.hr/urn:nbn:hr:168:612329

Vladika, Juraj. "Praktični izazovi u aktivnom učenju za obradu prirodnog jezika." Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, 2021. https://urn.nsk.hr/urn:nbn:hr:168:612329

Vladika, Juraj. "Praktični izazovi u aktivnom učenju za obradu prirodnog jezika." Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, 2021. https://urn.nsk.hr/urn:nbn:hr:168:612329

Vladika, J. (2021). 'Praktični izazovi u aktivnom učenju za obradu prirodnog jezika', Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, accessed 26 November 2024, https://urn.nsk.hr/urn:nbn:hr:168:612329

Vladika J. Praktični izazovi u aktivnom učenju za obradu prirodnog jezika [Master's thesis]. Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing; 2021 [cited 2024 November 26] Available at: https://urn.nsk.hr/urn:nbn:hr:168:612329

J. Vladika, "Praktični izazovi u aktivnom učenju za obradu prirodnog jezika", Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, Zagreb, 2021. Available at: https://urn.nsk.hr/urn:nbn:hr:168:612329

Metadata
TitlePraktični izazovi u aktivnom učenju za obradu prirodnog jezika
Title (english)Practical Challenges in Active Learning for Natural Language Processing
AuthorJuraj Vladika
MentorJan Šnajder (mentor)
Committee memberJan Šnajder (predsjednik povjerenstva)
Committee memberAlan Jović (član povjerenstva)
Committee memberMarko Đurasević (član povjerenstva)
GranterUniversity of Zagreb
Faculty of Electrical Engineering and Computing
Zagreb
Defense date and country2021-07-09, Croatia
Scientific / art field,
discipline and subdiscipline		TECHNICAL SCIENCES
Computing
Abstract
Uz obilje novih podataka koji se generiraju svakodnevno, računala se sve više upotrebljavaju za otkrivanje znanja u podatcima i učenje predviđanja novih vrijednih informacija. Proces prikupljanja podataka s korisnim oznakama može biti skup i dugotrajan. Aktivno učenje (AL) pojavilo se kao pristup biranja samo najinformativnijih podataka iz skupa i predaja tih podataka ljudima na označavanje, tako smanjujući troškove i štedeći vrijeme. U ovom je radu izložena teorijska i matematička podloga za aktivno učenje. Opisano je pet različitih strategija aktivnog učenja temeljenih na mjerama nesigurnosti i pretraživanju prostora inačica. Četiri klasifikacijska zadatka iz domene obrade prirodnoga jezika riješena su dvama modelima strojnog učenja, strojem potpornih vektora i povratnom neuronskom mrežom. Provedeni su eksperimenti koji uspoređuju uspješnost rješavanja zadataka rabeći strategije aktivnoga učenja i nasumično uzorkovanje. Analiza rezultata pokazala je da je barem jedna aktivna strategija učenja uvijek dala bolje rezultate od slučajnog uzorkovanja na svakom skupu podataka sa svakim modelom. Također je utvrđeno da je teško unaprijed znati koju strategiju aktivnoga učenja odabrati za biranje podataka. Predstavljeni su savjeti za učinkovitu implementaciju procesa aktivnog učenja u praksi.
Abstract (english)
With an abundance of new data generated every day, machines are increasingly used to extract knowledge from data and learn to predict new valuable information. The process of gathering data with useful labels can be expensive and time-consuming. Active learning (AL) has emerged as an approach for selecting only the most informative data instances and handing them to humans for labeling, thus reducing costs and saving time. In this thesis, a theoretical and mathematical foundation for active learning is laid out. Five different active learning selection strategies based on uncertainty measures and version-space search were described. Four classification tasks from the domain of Natural Language Processing were solved using two machine learning models, a support vector machine, and a recurrent neural network. Experiments that compare performance on tasks when using active learning strategies versus random sampling were conducted. The analysis of results showed that at least one active learning strategy always performed consistently better than random sampling on every dataset with each model. It was also found that it is hard to know beforehand which AL strategy to use for querying data. Tips for efficient implementation of the active learning process in practice were presented.
Keywords
Keywords (english)
Languageenglish
URN:NBNurn:nbn:hr:168:612329
Study programmeTitle: Computing
Study programme type: university
Study level: graduate
Academic / professional title: magistar/magistra inženjer/inženjerka računarstva (magistar/magistra inženjer/inženjerka računarstva)
Type of resourceText
File originBorn digital
Access conditionsClosed access
Terms of useLicence In copyright icon
Public note
Created on2023-01-13 14:11:24