Interpretabilnost modela dubokog učenja

diplomski rad

• Autor: Domagoj Ravlić
• Mentor: Tomislav Šmuc (mentor)
• Član povjerenstva: Tomislav Šmuc (predsjednik povjerenstva)
• Član povjerenstva: Pavle Pandžić (član povjerenstva)
• Član povjerenstva: Filip Najman (član povjerenstva)
• Član povjerenstva: Mladen Vuković (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Prirodoslovno-matematički fakultet; (Matematički odsjek); Zagreb
• Datum i država obrane: 2019-12-04, Hrvatska
• Znanstveno / umjetničko područje, polje i grana: PRIRODNE ZNANOSTI; Matematika

Sažetak

Duboke neuronske mreže postižu zavidne performanse u područjima poput klasifikacije i predikcije. U današnje vrijeme čak i dostižu sposobnosti samih ljudskih eksperata. No, još uvijek se u najčešćem broju primjena ti modeli smatraju crnom kutijom za koje često ni sam autor ne može dovoljno dobro objasniti kako i zašto funkcioniraju. Upravo zbog toga se javlja potreba za tehnikama koje će na ljudski razumljiv način interpretirati modele, odnosno omogućiti ljudsku/ekspertsku procjenu njihove robusnosti. U ovom radu predstavljamo takve metode interpretabilnosti konvolucijskih neuronskih mreža što je još uvijek relativno novo područje istraživanja. Najviše proučavamo metode Grad-CAM i TCAV za koje provodimo i pripadne eksperimente. Osim njih spominjemo i metode vizualizacije CNN reprezentacije (ponajviše saliency mape), ”otpetljavanje” CNN reprezentacije u eksplanatorne grafove, učenje neuronske mreže koja ima interpretabilnu reprezentaciju te interpretabilnost middle-to-end učenja.

Sažetak (engleski)

Deep neural networks achieve enviable performance in terms of classification and prediction. Nowadays we are even able to find those which are more efficient than human experts in certain fields. But, in a large number of applications, those models are considered as ”black box” since neither their author can’t explain them properly. Because of that, there is a need for techniques which can interpret models in a way understandable for humans and scientists as well. In this work, we present those methods of convolutional neural network interpretability which is still a young field of research. Most of all, we study Grad-CAM and TCAV methods for which we conduct experiments. Besides them, we study methods of CNN representation visualization (mostly saliency maps), ”disentangling” CNN representation into explanatory graphs, learning neural networks with interpretable representations and network interpretability for middle-to-end learning.

• Ključne riječi: duboke neuronske mreže; metode interpretabilnosti
• Ključne riječi (engleski): deep neural networks; interpretability methods
• Jezik: hrvatski
• URN:NBN: urn:nbn:hr:217:435149
• Studijski program: Naziv: Računarstvo i matematika; Vrsta studija: sveučilišni; Stupanj studija: diplomski; Akademski / stručni naziv: magistar/magistra računarstva i matematike (mag. inf. et math.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Otvoreni pristup
• Datum i vrijeme pohrane: 2020-07-14 12:12:17