Interpretierbarkeit / Erklärbarkeit (XAI)

Grundlagen

Nachvollziehbarkeit von Modellentscheidungen.

XAI macht Modellverhalten für Menschen verständlich.

Ansätze: intrinsisch interpretable Modelle (z.B. Bäume) und Post-hoc-Methoden (SHAP, LIME, Grad-CAM).
Ziele: Vertrauen, Fehlerdiagnose, Compliance, Sicherheit.
Grenzen: Näherungen können irreführen; Erklärungen müssen auf die Zielgruppe zugeschnitten sein.