Wyjaśnialne uczenie maszynowe

W ostatnich latach uczenie maszynowe znajduje coraz więcej zastosowań w wielu dziedzinach nauki oraz życia codziennego. Jednakże, modele osiągające zadowalającą jakość predykcji są często złożone i przez to traktowane jak czarne  skrzynki. Sprawia to trudności we wdrażaniu takich rozwiązań w sytuacjach, gdy krytyczne jest zaufanie do decyzji zwracanych przez model, odporność na ataki lub brak przejawów dyskryminacji. W takich przypadkach istotną rolę odgrywają metody wyjaśnialnego uczenia maszynowego.

 

Podczas referatu chciałbym przedstawić przegląd najnowszych metod wyjaśnialnego uczenia maszynowego, głównie w kontekście głębokich sieci neuronowych. Omówię przykłady metod wyjaśnialności lokalnej oraz globalnej oparte na mapach istotności oraz propagacji sygnału,

a także metod wyjaśnialności werbalnej oraz poprzez model zastępczy.