Plattform
Plattform-ÜbersichtAI Adoption & Multi-ModellSelbstbefüllendes KI-CRMSales & Branchen CRMSales CRM Use CasesRecruiting CRM Use CasesB2B Kontakt-SucheMulti-Channel-KampagnenProjekte & AufgabenTeam-MessengerSocial Media StudioFunnel & NewsletterMeetings & Terminbuchung
Beratung, Preise & Ressourcen
KI-Transformation & StrategieManaged ServicesAlexander Weltzsch · Executive AdvisoryDennis Hilger · B2B Growth AdvisoryPreise & LizenzrechnerÜber unsKI im UnternehmenTech und KI GlossarLeitfaden für erfolgreiche LandingpagesGeschäftsbedingungen und RichtlinienKontakt & Live-Demo
← Zurück zum Tech und KI Glossar (A–Z)
Tech und KI Glossar · Buchstabe · Buchstabe G

Guardrails

Guardrails

Definition

Guardrails sind programmatische Prüf- und Filterregeln vor und nach einem KI-Modell, die dessen Ein- und Ausgaben auf Sicherheit, Faktenbezug und Richtlinienkonformität validieren.

Erklärung

Technisch gliedern sich Guardrails in Eingabe- und Ausgabefilter. Input-Guardrails prüfen Nutzeranfragen vor dem Modellaufruf auf Prompt-Injection-Muster, gesperrte Themen oder personenbezogene Daten (PII), die vorab maskiert werden müssen. Output-Guardrails kontrollieren die generierte Antwort vor der Auslieferung an Nutzer oder Drittsysteme, etwa über reguläre Ausdrücke, JSON-Schema-Validierung, Klassifikatoren oder den Abgleich mit freigegebenen Wissensquellen. Im B2B-Vertrieb und Kundenservice unterbinden solche Prüfregeln beispielsweise unautorisierte Rabattzusagen, abweichende Vertragsklauseln oder Aussagen über Wettbewerber. Schlägt eine Prüfung fehl, blockiert die Anwendung die Ausgabe, fordert eine korrigierte Antwort vom Modell an oder übergibt den Vorgang an einen Mitarbeiter.