Permutation Importance für XAI
Welchen Einfluss hat eine Feature, wie z.B. der Zins oder die Laufzeit auf den Marktpreis? Sind ML-Modelle eine Black Box?
Es rangen viele Mythen um Machine Learning Modelle. Um den o.g. Fragen auf den Grund zu gehen, haben wir einen Ansatz zu Explainable Artificial Intelligence (XAI) für Sie herausgesucht.
Die Permutation Importance PI stellt quantitativ und graphisch dar, wie kritisch ein bestimmtes Feature (Eingabeparameter) für ein Modell ist.
Je komplexer die Modell-Architektur, desto leistungsfähiger kann das Modell sein - dennoch lassen sich selbst die komplexesten ML-Modelle mittels zuverlässiger XAI-Methoden erklären.
Das PI-XAI-Verfahren ist modell-agnostisch und kann somit jedes beliebige Regressions- oder Klassifikations-Modell erklären.
Im folgenden Karussell wird dieser Ansatz mit seinen Eigenschaften genauer dargestellt.
Erstellt von Dr. Carsten Keller und Ivan Balashov
Referenzen im Karussell
[1] scikit-learn: Permutation feature importance.
https://scikit-learn.org/stable/modules/permutation_importance.html
[*]: Link abgerufen am 23.02.2023
[**]: Die Verlinkungen verweisen auf externe Daten außerhalb unserer Domain. Trotz sorgfältiger inhaltlicher Kontrolle übernehmen wir keine Haftung für die Inhalte externer Links.
Erfahren Sie mehr zum Thema Grundlagen:
Neugierig?
Entdecken Sie mehr über unsere Machine Learning Techniken
Wir stehen Ihnen bei Fragen zur Verfügung!