prikaz prve stranice dokumenta Uporaba metoda objašnjivosti nad modelima strojnog učenja u svrhu razvoja sustava za očuvanje kibernetičke sigurnosti
No public access
master's thesis
Uporaba metoda objašnjivosti nad modelima strojnog učenja u svrhu razvoja sustava za očuvanje kibernetičke sigurnosti
Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing, 2022. urn:nbn:hr:168:833389
Krznarić, Sanja
University of Zagreb
Faculty of Electrical Engineering and Computing

Institutional repository: FER Repository

Cite this document

Krznarić, S. (2022). Uporaba metoda objašnjivosti nad modelima strojnog učenja u svrhu razvoja sustava za očuvanje kibernetičke sigurnosti (Master's thesis). Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing. Retrieved from https://urn.nsk.hr/urn:nbn:hr:168:833389

Krznarić, Sanja. "Uporaba metoda objašnjivosti nad modelima strojnog učenja u svrhu razvoja sustava za očuvanje kibernetičke sigurnosti." Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, 2022. https://urn.nsk.hr/urn:nbn:hr:168:833389

Krznarić, Sanja. "Uporaba metoda objašnjivosti nad modelima strojnog učenja u svrhu razvoja sustava za očuvanje kibernetičke sigurnosti." Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, 2022. https://urn.nsk.hr/urn:nbn:hr:168:833389

Krznarić, S. (2022). 'Uporaba metoda objašnjivosti nad modelima strojnog učenja u svrhu razvoja sustava za očuvanje kibernetičke sigurnosti', Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, accessed 01 September 2024, https://urn.nsk.hr/urn:nbn:hr:168:833389

Krznarić S. Uporaba metoda objašnjivosti nad modelima strojnog učenja u svrhu razvoja sustava za očuvanje kibernetičke sigurnosti [Master's thesis]. Zagreb: University of Zagreb, Faculty of Electrical Engineering and Computing; 2022 [cited 2024 September 01] Available at: https://urn.nsk.hr/urn:nbn:hr:168:833389

S. Krznarić, "Uporaba metoda objašnjivosti nad modelima strojnog učenja u svrhu razvoja sustava za očuvanje kibernetičke sigurnosti", Master's thesis, University of Zagreb, Faculty of Electrical Engineering and Computing, Zagreb, 2022. Available at: https://urn.nsk.hr/urn:nbn:hr:168:833389

Metadata
TitleUporaba metoda objašnjivosti nad modelima strojnog učenja u svrhu razvoja sustava za očuvanje kibernetičke sigurnosti
Title (english)Using Explanatory Methods on Machine Learning Models as a Part of Cybersecurity System Development
AuthorSanja Krznarić
MentorDamir Pintar (mentor)
Committee memberDamir Pintar (predsjednik povjerenstva)
Committee memberMihaela Vranić (član povjerenstva)
Committee memberBoris Vrdoljak (član povjerenstva)
GranterUniversity of Zagreb
Faculty of Electrical Engineering and Computing
Zagreb
Defense date and country2022-07-05, Croatia
Scientific / art field,
discipline and subdiscipline		TECHNICAL SCIENCES
Computing
Abstract
U današnje vrijeme, kada se većina ekonomskih, komercijalnih, kulturalnih, socijalnih i upravnih aktivnosti odvija "online", kibernetička sigurnost ima vrlo važnu ulogu. Eksponencijalni rast broja i raznolikosti kibernetičkih napada doveo je do potrebe za automatizacijom procesa ekstrakcije znanja iz svakim danom sve većeg broja podataka, a idealnim alatom za to pokazalo se strojno učenje. Kako bi modelima strojnog učenja implementiranima u svrhe očuvanja kibernetičke sigurnosti bilo moguće vjerovati, odnosno kako bi se povećala količina ljudskog znanja o domeni te spriječile potencijalne netočne i nepouzdane predikcije, potrebno je da implementirani modeli budu interpretabilni. Interpretabilnost modela strojnog učenja moguće je postići korištenjem "white-box" modela koji su jednostavni te pri treningu koriste metode koje ekstrahiraju znanje u ljudski interpretabilnom obliku, no takvi modeli često nisu dovoljno kompleksni te ih svojim performansama nadmašuju puno moćniji, no nažalost neinterpretabilni "black-box" modeli. Potreba za iskorištavanjem prediktivne moći "black-box" modela uz zadržavanje interpretabilnosti dovela je do razvoja područja objašnjivosti u strojnom učenju. Ovaj rad fokusira se na korištenje agnostičkih metoda objašnjivosti kako bi se interpretirao rad "black-box" modela treniranih nad skupom podataka vezanim uz kibernetičku sigurnost. Globalne agnostičke metode korištene su u svrhu generalne interpretacije te potencijalne redukcije broja značajki implementiranih modela, dok su lokalne agnostičke metode korištene u svrhu dobivanja detaljnih objašnjenja nad individualnim predikcijama. Rezultati "black-box" modela te pravila ekstrahirana agnostičkim metodama uspoređeni su s rezultatima i pravilima ekstrahiranima iz "white-box" modela treniranih pod istim uvjetima nad istim podatkovnim skupom.
Abstract (english)
Today, when most of the economic, commercial, cultural, social and government activities are carried out online, cybersecurity plays a very important role. Exponential growth in the number and variety of cyber-attacks created a need for the automation of knowledge extraction from the constantly growing amount of data. The ideal tool for such automation turned out to be machine learning. To create confidence in machine learning algorithms implemented in order to obtain cybersecurity, to increase the amount of cybersecurity knowledge and to prevent potentially incorrect and unreliable predictions, the implemented algorithms need to be interpretable. Interpretability of the machine learning models can be achieved by using simple "white-box" models that extract knowledge in a human-friendly format in the process of learning, but such models are usually not complex enough and thus outperformed by the powerful, but not easily interpretable "black-box" models. In order to keep both the predictive power of "black-box" models and the interpretability of "white-box" model, a new field in machine learning was developed that focused explicitly on the interpretability. This thesis focuses on using model agnostic methods to explain the predictions made by "black-box" models trained on a cybersecurity-related dataset. The global agnostic methods are used to explain the general model behavior and potentially reduce the number of features necessary for the model training, while the local agnostic methods are used to provide detailed explanations on individual predictions. The results of the implemented "black-box" models and the rules extracted by the model agnostic methods are compared with the results and rules provided by the "white-box" models trained under the same conditions on the same dataset.
Keywords
Keywords (english)
Languagecroatian
URN:NBNurn:nbn:hr:168:833389
Study programmeTitle: Computing
Study programme type: university
Study level: graduate
Academic / professional title: magistar/magistra inženjer/inženjerka računarstva (magistar/magistra inženjer/inženjerka računarstva)
Type of resourceText
File originBorn digital
Access conditionsClosed access
Terms of useLicence In copyright icon
Public note
Created on2023-01-13 15:21:27