Guardrails sind programmatische Prüf- und Filterregeln vor und nach einem KI-Modell, die dessen Ein- und Ausgaben auf Sicherheit, Faktenbezug und Richtlinienkonformität validieren.
Erklärung
Technisch gliedern sich Guardrails in Eingabe- und Ausgabefilter. Input-Guardrails prüfen Nutzeranfragen vor dem Modellaufruf auf Prompt-Injection-Muster, gesperrte Themen oder personenbezogene Daten (PII), die vorab maskiert werden müssen. Output-Guardrails kontrollieren die generierte Antwort vor der Auslieferung an Nutzer oder Drittsysteme, etwa über reguläre Ausdrücke, JSON-Schema-Validierung, Klassifikatoren oder den Abgleich mit freigegebenen Wissensquellen. Im B2B-Vertrieb und Kundenservice unterbinden solche Prüfregeln beispielsweise unautorisierte Rabattzusagen, abweichende Vertragsklauseln oder Aussagen über Wettbewerber. Schlägt eine Prüfung fehl, blockiert die Anwendung die Ausgabe, fordert eine korrigierte Antwort vom Modell an oder übergibt den Vorgang an einen Mitarbeiter.