prikaz prve stranice dokumenta Puštanje u pogon aplikacije CosmoLLM s podrškom za distribuirano računanje i višekorisničku komunikaciju
No public access
undergraduate thesis
Puštanje u pogon aplikacije CosmoLLM s podrškom za distribuirano računanje i višekorisničku komunikaciju
Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing, 2024. urn:nbn:hr:168:596294
Sočec, Nikola
University of Zagreb
Faculty of Electrical Engineering and Computing

Institutional repository: FER Repository

Cite this document

Sočec, N. (2024). Puštanje u pogon aplikacije CosmoLLM s podrškom za distribuirano računanje i višekorisničku komunikaciju (Undergraduate thesis). Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing. Retrieved from https://urn.nsk.hr/urn:nbn:hr:168:596294

Sočec, Nikola. "Puštanje u pogon aplikacije CosmoLLM s podrškom za distribuirano računanje i višekorisničku komunikaciju." Undergraduate thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, 2024. https://urn.nsk.hr/urn:nbn:hr:168:596294

Sočec, Nikola. "Puštanje u pogon aplikacije CosmoLLM s podrškom za distribuirano računanje i višekorisničku komunikaciju." Undergraduate thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, 2024. https://urn.nsk.hr/urn:nbn:hr:168:596294

Sočec, N. (2024). 'Puštanje u pogon aplikacije CosmoLLM s podrškom za distribuirano računanje i višekorisničku komunikaciju', Undergraduate thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, accessed 06 November 2024, https://urn.nsk.hr/urn:nbn:hr:168:596294

Sočec N. Puštanje u pogon aplikacije CosmoLLM s podrškom za distribuirano računanje i višekorisničku komunikaciju [Undergraduate thesis]. Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing; 2024 [cited 2024 November 06] Available at: https://urn.nsk.hr/urn:nbn:hr:168:596294

N. Sočec, "Puštanje u pogon aplikacije CosmoLLM s podrškom za distribuirano računanje i višekorisničku komunikaciju", Undergraduate thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, Zagreb, 2024. Available at: https://urn.nsk.hr/urn:nbn:hr:168:596294

Metadata
TitlePuštanje u pogon aplikacije CosmoLLM s podrškom za distribuirano računanje i višekorisničku komunikaciju
Title (english)Deploying the CosmoLLM application with support for distributed computing and multi-user communication
AuthorNikola Sočec
MentorMario Brčić (mentor)
Committee memberMario Brčić (predsjednik povjerenstva)
Committee memberMihael Kovač (član povjerenstva)
Committee memberKristijan Poje (član povjerenstva)
GranterUniversity of Zagreb
Faculty of Electrical Engineering and Computing
Zagreb
Defense date and country2024-07-05, Croatia
Scientific / art field,
discipline and subdiscipline		TECHNICAL SCIENCES
Computing
Abstract
Ovaj završni rad prikazuje postupak puštanja u pogon aplikacije CosmoLLM koja podržava distribuirano računanje i višekorisničku komunikaciju. CosmoLLM omogu- ćuje korisnicima interakciju s velikim jezičnim modelom (LLM) za provođenje izračuna temeljenih na Monte Carlo Markovljevim lancima (MCMC). Aplikacija je implementi- rana koristeći OpenMPI za distribuirano računanje i Kubernetes za orkestraciju. Sustav je dizajniran s tri glavne komponente: administracijski čvor, čvor za korisničko sučelje i čvorovi za izračune. Analizirane su performanse i skalabilnost sustava te su potvrđene prednosti distribuiranog pristupa. Rad završava prijedlozima za buduća poboljšanja i proširenja sustava.
Abstract (english)
This thesis presents the process of deploying the CosmoLLM application with support for distributed computing and multi-user communication. CosmoLLM enables users to interact with a large language model (LLM) to perform calculations based on Monte Carlo Markov Chains (MCMC). The application is implemented using OpenMPI for dis- tributed computing and Kubernetes for orchestration. The system is designed with three main components: an administrative node, a user interface node, and compute nodes. The performance and scalability of the system are analyzed, confirming the benefits of the distributed approach. The thesis concludes with suggestions for future improve- ments and system expansions.
Keywords
Keywords (english)
Languagecroatian
URN:NBNurn:nbn:hr:168:596294
Study programmeTitle: Computing
Study programme type: university
Study level: undergraduate
Academic / professional title: sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva (sveučilišni/a prvostupnik/ prvostupnica (baccalaureus/baccalaurea) inženjer/inženjerka računarstva)
Type of resourceText
File originBorn digital
Access conditionsClosed access
Terms of useLicence In copyright icon
Public note
Created on2024-10-12 22:08:14