Erklärbare KI (Explainable AI, kurz XAI) umfasst Verfahren, die nachvollziehbar machen, welche Eingangsmerkmale und Gewichtungen zu einer konkreten Vorhersage oder Entscheidung eines Machine-Learning-Modells geführt haben.
Erklärung
Fachlich unterscheidet man zwischen inhärent interpretierbaren Modellen wie linearen Regressionen oder flachen Entscheidungsbäumen und nachträglichen Analyseverfahren (Post-hoc-Methoden) für komplexe neuronale Netze oder Gradient-Boosting-Modelle. Verbreitete Verfahren wie SHAP (SHapley Additive exPlanations) oder LIME berechnen für jede einzelne Prognose, wie stark einzelne Faktoren das Ergebnis nach oben oder unten verschoben haben. Meldet ein B2B-System etwa ein erhöhtes Kündigungsrisiko bei einem Bestandskunden, weist die XAI-Auswertung konkret aus, ob rückläufige Login-Zahlen, offene Supporttickets oder ein auslaufender Rahmenvertrag ausschlaggebend waren. Solche Einzelbegründungen erleichtern die Fehlersuche bei verzerrten Trainingsdaten (Bias) und erfüllen Dokumentationspflichten gegenüber Revision, Fachabteilungen und Aufsichtsbehörden.