prikaz prve stranice dokumenta Modeliranje reprezentacije riječi i njihovih međuovisnosti tehnikama strojnog učenja
  Download
PDF 20.27 MB
master's thesis
Modeliranje reprezentacije riječi i njihovih međuovisnosti tehnikama strojnog učenja
Osijek: Josip Juraj Strossmayer University of Osijek, Department of Mathematics, 2020. urn:nbn:hr:126:766097
Nikić, Patrick
Josip Juraj Strossmayer University of Osijek
Department of Mathematics
Chair of Applied Mathematics and Computer Science
Computer Science and Machine Learning Research Group

Institutional repository: Repository of School of Applied Mathematics and Computer Science

Cite this document

Nikić, P. (2020). Modeliranje reprezentacije riječi i njihovih međuovisnosti tehnikama strojnog učenja (Master's thesis). Osijek: Josip Juraj Strossmayer University of Osijek, Department of Mathematics. Retrieved from https://urn.nsk.hr/urn:nbn:hr:126:766097

Nikić, Patrick. "Modeliranje reprezentacije riječi i njihovih međuovisnosti tehnikama strojnog učenja." Master's thesis, Josip Juraj Strossmayer University of Osijek, Department of Mathematics, 2020. https://urn.nsk.hr/urn:nbn:hr:126:766097

Nikić, Patrick. "Modeliranje reprezentacije riječi i njihovih međuovisnosti tehnikama strojnog učenja." Master's thesis, Josip Juraj Strossmayer University of Osijek, Department of Mathematics, 2020. https://urn.nsk.hr/urn:nbn:hr:126:766097

Nikić, P. (2020). 'Modeliranje reprezentacije riječi i njihovih međuovisnosti tehnikama strojnog učenja', Master's thesis, Josip Juraj Strossmayer University of Osijek, Department of Mathematics, accessed 16 June 2024, https://urn.nsk.hr/urn:nbn:hr:126:766097

Nikić P. Modeliranje reprezentacije riječi i njihovih međuovisnosti tehnikama strojnog učenja [Master's thesis]. Osijek: Josip Juraj Strossmayer University of Osijek, Department of Mathematics; 2020 [cited 2024 June 16] Available at: https://urn.nsk.hr/urn:nbn:hr:126:766097

P. Nikić, "Modeliranje reprezentacije riječi i njihovih međuovisnosti tehnikama strojnog učenja", Master's thesis, Josip Juraj Strossmayer University of Osijek, Department of Mathematics, Osijek, 2020. Available at: https://urn.nsk.hr/urn:nbn:hr:126:766097

Metadata
TitleModeliranje reprezentacije riječi i njihovih međuovisnosti tehnikama strojnog učenja
Title (english)Modeling Word Representations and Dependency Parsing with Machine Learning Techniques
AuthorPatrick Nikić
MentorDomagoj Ševerdija (mentor)
Committee memberDomagoj Matijević (predsjednik povjerenstva)
Committee memberDomagoj Ševerdija (član povjerenstva)
Committee memberZoran Tomljanović (član povjerenstva)
GranterJosip Juraj Strossmayer University of Osijek
Department of Mathematics
(Chair of Applied Mathematics and Computer Science)
(Computer Science and Machine Learning Research Group)
Osijek
Defense date and country2020-01-17, Croatia
Scientific / art field,
discipline and subdiscipline		NATURAL SCIENCES
Mathematics
Mathematical Logic and Accounting
Abstract
U novije vrijeme, prisutna je renesansa neuronskih mreža. Njihova osnovna građevna jedinica jest neuron. Neuron možemo shvatiti kao metodu kojom ćemo odvagnuti ulazne informacije za donošenje neke odluke. Neurone grupiramo u slojeve, a više takvih slojeva čini neuronsku mrežu. U prvom poglavlju smo opisali kako neuronske mreže uče te algoritme i tehnike koje se pritom koriste. Glavni dio diplomskog rada se bavi primjenom strojnog učenja u obradi prirodnog jezika. Opisali smo kako se riječi mogu predstaviti pomoću vektora koji što bolje obuhvaćaju strukturu riječi, značenje i kontekst riječi te hijerarhije medu riječima. Vektori riječi su u vektorskom prostoru smješteni tako da riječi koje se nalaze u sličnom kontekstu, imaju slične vektore. Objasnili smo algoritme i metode treniranja koje word2vec koristi. Konačno, pokazali smo kako vektore riječi možemo koristiti za parsiranje meduovisnosti izmedu riječi u rečenici. Opisali smo pohlepni parser temeljen na prijelazima koji se za ovaj zadatak trenira koriste´ci neuronsku mrežu. Naposljetku, prikazali smo rad trenutno najboljih poznatih parsera međuovisnosti za hrvatski jezik, treniranih na jednom hrvatskom označenom korpusu.
Abstract (english)
Recently, there is a renaissance of neural networks. Their fundamental working unit is a neuron. We can think of a neuron as method for weighing input informations in order to make a decision. We can group neurons in layers that form neural networks. In the first section we described how neural networks learn, together with the algorithms and techniques used in the background. The main part of the paper deals with the application of machine learning in natural language processing. We described how words can be represented with vectors that best capture the word structure, semantics and context as well as the hierarchies among words. Word vectors are placed in the vector space such that words that share common contexts, have similar vectors. We explained the algorithms and training methods that word2vec uses. Finally, we showed how to use word vectors for parsing the dependencies between words in a sentence. We described a greedy transition-based parser that is trained for this task using a neural network. Lastly, we presented the results of cutting-edge parsers for Croatian that were trained on a Croatian annotated corpus.
Keywords
Keywords (english)
Languagecroatian
URN:NBNurn:nbn:hr:126:766097
Study programmeTitle: Mathematics; specializations in: Financial and Statistical Mathematics, Mathematics and Computer Science, Industrial and Applied Mathematics
Course: Financial and Statistical Mathematics
Study programme type: university
Study level: graduate
Academic / professional title: magistar/magistra matematike (magistar/magistra matematike)
Type of resourceText
File originBorn digital
Access conditionsOpen access
Terms of useLicence In copyright icon
Created on2020-01-29 08:16:52