Adversarial Learning (gegnerisches Lernen) bezeichnet Methoden im Machine Learning, bei denen Modelle gezielt mit täuschenden oder manipulierten Eingaben (Adversarial Examples) trainiert und geprüft werden, um Schwachstellen aufzudecken und die Modellstabilität zu erhöhen.
Erklärung
Neuronale Netze reagieren oft empfindlich auf gezielt berechnete Kleinständerungen an Eingabedaten, die für Menschen kaum erkennbar sind: Wenige veränderte Pixel in einem Dokumentenscan, unsichtbare Zeichen in einer Phishing-Mail oder versteckte Anweisungen in einem Text (Prompt Injection) können ein ungeschütztes Modell zu einer Fehlklassifikation oder Regelverletzung verleiten. Beim sogenannten Adversarial Training erzeugt ein Angreiferalgorithmus systematisch solche Grenzfälle, woraufhin das Zielmodell mit den korrekten Zielwerten nachtrainiert wird, bis es die Manipulationen abwehrt. Ein verwandtes Prinzip nutzen Generative Adversarial Networks (GANs), bei denen ein Generator-Netzwerk künstliche Daten erzeugt und ein Diskriminator-Netzwerk echte von künstlichen Daten unterscheidet, wodurch sich beide Modelle wechselseitig verbessern. Praktische Einsatzfelder im B2B-Bereich sind Sicherheitstests (Red-Teaming) für Unternehmens-Chatbots, die Betrugserkennung im Zahlungsverkehr sowie E-Mail-Sicherheitsfilter.