prikaz prve stranice dokumenta Primjena dubokog učenja na izračunavanje neodređenih integrala korištenjem velikog jezičnog modela
No public access
master's thesis
Primjena dubokog učenja na izračunavanje neodređenih integrala korištenjem velikog jezičnog modela
Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing, 2024. urn:nbn:hr:168:130901
Huzjak, Emil
University of Zagreb
Faculty of Electrical Engineering and Computing

Institutional repository: FER Repository

Cite this document

Huzjak, E. (2024). Primjena dubokog učenja na izračunavanje neodređenih integrala korištenjem velikog jezičnog modela (Master's thesis). Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing. Retrieved from https://urn.nsk.hr/urn:nbn:hr:168:130901

Huzjak, Emil. "Primjena dubokog učenja na izračunavanje neodređenih integrala korištenjem velikog jezičnog modela." Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, 2024. https://urn.nsk.hr/urn:nbn:hr:168:130901

Huzjak, Emil. "Primjena dubokog učenja na izračunavanje neodređenih integrala korištenjem velikog jezičnog modela." Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, 2024. https://urn.nsk.hr/urn:nbn:hr:168:130901

Huzjak, E. (2024). 'Primjena dubokog učenja na izračunavanje neodređenih integrala korištenjem velikog jezičnog modela', Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, accessed 26 June 2024, https://urn.nsk.hr/urn:nbn:hr:168:130901

Huzjak E. Primjena dubokog učenja na izračunavanje neodređenih integrala korištenjem velikog jezičnog modela [Master's thesis]. Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing; 2024 [cited 2024 June 26] Available at: https://urn.nsk.hr/urn:nbn:hr:168:130901

E. Huzjak, "Primjena dubokog učenja na izračunavanje neodređenih integrala korištenjem velikog jezičnog modela", Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, Zagreb, 2024. Available at: https://urn.nsk.hr/urn:nbn:hr:168:130901

Metadata
TitlePrimjena dubokog učenja na izračunavanje neodređenih integrala korištenjem velikog jezičnog modela
Title (english)Applying deep learning to computing indefinite integrals using a large language model
AuthorEmil Huzjak
MentorDomagoj Vlah (mentor)
Committee memberDomagoj Vlah (predsjednik povjerenstva)
Committee memberMate Puljiz (član povjerenstva)
Committee memberMario Brčić (član povjerenstva)
GranterUniversity of Zagreb
Faculty of Electrical Engineering and Computing
Zagreb
Defense date and country2024-03-01, Croatia
Abstract
Na zadatku računanja neodređenih integrala je dotreniran veliki jezični model Llama-2 sa sedam milijardi parametara predtreniran da odgovara na pitanja. Korišteni su primjeri u jednostavnom formatu definiranom u sympy biblioteci u pythonu. Primjeri su stvoreni programski nasumičnim generiranjem funkcija iz definiranih pravila i dopuštenih elementarnih matematičkih funkcija. Model je testiran i uspoređen s originalnim te se primjećuju znatna poboljšanja. Dotreniranje je obavljeno tehnikom LoRA koja je memorijski jako učinkovita i omogućava brzo učitavanje i dijeljenje modela. Model je stavljen na online bazu Huggingface.
Abstract (english)
The Llama-2 large language model with 7 billion parameters, designed to be a chat assistant, was finetuned on the task of solving indefinite integrals. Training examples have a simple format defined by the sympy python library. The examples were generated randomly from a defined set of rules and elementary functions. The model was tested and compared to the baseline model, showing significant improvements. Finetuning used the memory-efficient LoRA technique which enables fast loading and sharing of models. The model was uploaded to the public Huggingface model repo.
Keywords
Keywords (english)
Languagecroatian
URN:NBNurn:nbn:hr:168:130901
Study programmeTitle: Computing
Study programme type: university
Study level: graduate
Academic / professional title: magistar/magistra inženjer/inženjerka računarstva (magistar/magistra inženjer/inženjerka računarstva)
Type of resourceText
File originBorn digital
Access conditionsClosed access
Terms of useLicence In copyright icon
Public note
Created on2024-03-28 07:46:59