Nie jesteś zalogowany | Zaloguj się

Wyjaśnialne uczenie maszynowe

Prelegent(ci)
Łukasz Grad
Afiliacja
MIMUW
Termin
3 kwietnia 2020 14:15
Informacje na temat wydarzenia
meet.google.com/jbj-tdsr-aop
Seminarium
Research Seminar of the Logic Group: Approximate reasoning in data mining

W ostatnich latach uczenie maszynowe znajduje coraz więcej zastosowań w wielu dziedzinach nauki oraz życia codziennego. Jednakże, modele osiągające zadowalającą jakość predykcji są często złożone i przez to traktowane jak czarne  skrzynki. Sprawia to trudności we wdrażaniu takich rozwiązań w sytuacjach, gdy krytyczne jest zaufanie do decyzji zwracanych przez model, odporność na ataki lub brak przejawów dyskryminacji. W takich przypadkach istotną rolę odgrywają metody wyjaśnialnego uczenia maszynowego.
 
Podczas referatu chciałbym przedstawić przegląd najnowszych metod wyjaśnialnego uczenia maszynowego, głównie w kontekście głębokich sieci neuronowych. Omówię przykłady metod wyjaśnialności lokalnej oraz globalnej oparte na mapach istotności oraz propagacji sygnału,
a także metod wyjaśnialności werbalnej oraz poprzez model zastępczy.