Chain of Thought (Gedankenkette, kurz CoT) ist ein Verfahren bei großen Sprachmodellen (LLMs), bei dem das Modell Zwischenschritte einer logischen Herleitung explizit ausformuliert, bevor es die endgültige Antwort ausgibt.
Erklärung
Autoregressive Sprachmodelle erzeugen Text Token für Token. Soll ein Modell eine mehrstufige Rechenaufgabe, eine Vertragsprüfung oder eine komplexe Fehlerdiagnose in einem einzigen Schritt beantworten, steigt die Fehlerrate deutlich an. Durch gezielte Prompt-Anweisungen oder speziell darauf trainierte Reasoning-Modelle zerlegt das System die Aufgabe zunächst in Teilbedingungen, Zwischenergebnisse und Ausschlusskriterien, auf die es bei der anschließenden Antwortgenerierung zugreifen kann. In B2B-Anwendungen erleichtert das sichtbare Zwischenprotokoll zudem die Qualitätskontrolle: Prüft ein Sprachmodell beispielsweise, ob ein Kundenvertrag bestimmte Haftungsgrenzen verletzt oder ein Lead definierte Qualifizierungskriterien erfüllt, lässt sich jeder einzelne Prüfschritt nachvollziehen. Diesem Genauigkeitsgewinn stehen ein höherer Token-Verbrauch und eine längere Antwortzeit (Latenz) gegenüber.