Explainable AI (XAI, deutsch erklärbare künstliche Intelligenz) umfasst Methoden und Modellansätze, die für Menschen nachvollziehbar machen, welche Eingabedaten und Gewichte zu einer konkreten Vorhersage oder Entscheidung eines KI-Systems geführt haben.
Erklärung
Während einfache lineare Regressionen oder flache Entscheidungsbäume ihre Entscheidungsregeln direkt offenlegen, verarbeiten tiefe neuronale Netze und komplexe Ensemble-Modelle tausende Parameter in schwer durchschaubaren Zwischenschichten (Blackbox-Problem). Post-hoc-Verfahren wie SHAP (SHapley Additive exPlanations) oder LIME berechnen daher für einzelne Prognosen oder das Gesamtmodell, wie stark bestimmte Merkmale wie Zahlungsverzug, Ticketfrequenz oder Vertragsdauer das Modellergebnis beeinflusst haben. Im B2B-Einsatz wird diese Nachvollziehbarkeit vor allem in regulierten Bereichen wie Kreditvergabe, Versicherungstarifierung, Medizinprodukten und Personalauswahl verlangt, in denen DSGVO und EU AI Act Auskunfts-, Dokumentations- und Prüfpflichten vorgeben. Auch in operativer Unternehmenssoftware steigert XAI die Akzeptanz: Vertriebs- oder Customer-Success-Teams arbeiten gezielter mit einem Lead- oder Abwanderungs-Score im CRM, wenn direkt neben dem Punktwert die drei ausschlaggebenden Einflussfaktoren ausgewiesen werden.