Chain-of-Thought Prompting erklärt: Noch sinnvoll?
Chain-of-Thought-Prompting lässt ein Modell vor der Antwort Schritt für Schritt denken. Wann es hilft, wann Reasoning-Modelle es ersetzen und wie du es nutzt.
In diesem Artikel
- Warum hilft es, den Denkweg aufzuschreiben?
- Ein konkretes Vorher und Nachher
- Funktioniert „Denk Schritt für Schritt“ bei Reasoning-Modellen noch?
- Soll das Modell vor oder nach der Antwort nachdenken?
- Wie trennst du Überlegung und endgültige Ausgabe?
- Wann ist Chain-of-Thought eine schlechte Idee?
- Verwandte Techniken, die du kennen solltest
- Die Kurzfassung
Chain-of-Thought-Prompting (CoT) heißt, ein Sprachmodell zu bitten, Zwischenschritte schriftlich durchzugehen, bevor es sich auf eine Antwort festlegt. Am meisten hilft das bei Problemen mit mehreren aufeinander aufbauenden Schritten, etwa Rechnen, Logik und Planung mit mehreren Bedingungen, bei einfachen Aufgaben kaum. Neuere „Reasoning“-Modelle machen das intern, deshalb sind ausdrückliche Schritt-für-Schritt-Anweisungen heute weniger nötig als noch vor ein paar Jahren.
Die Technik hat einen klaren Ursprung. 2022 veröffentlichten Wei et al. „Chain-of-Thought Prompting Elicits Reasoning in Large Language Models“ und zeigten, dass Few-Shot-Beispiele mit ausgeführtem Lösungsweg statt nur mit Antworten große Modelle bei Textaufgaben zur Mathematik und ähnlichen Benchmarks deutlich verbesserten. Kurz darauf fanden Kojima et al. („Large Language Models are Zero-Shot Reasoners“, 2022) heraus, dass schon der angehängte Satz „Let's think step by step“ ganz ohne Beispiele einen ähnlichen Effekt hat. Diese Formulierung steckt seitdem in unzähligen Prompts.
Warum hilft es, den Denkweg aufzuschreiben?
Ein Modell erzeugt Text Token für Token, und jedes Token hängt von dem ab, was davor stand. Muss es die endgültige Antwort sofort ausgeben, muss die ganze Arbeit in einem einzigen Schritt passieren. Schreibt es zuerst „der Zug fährt um 14:10 ab, die Fahrt dauert 2 Stunden 35 Minuten, also kommt er um 16:45 an“, wird jedes Zwischenergebnis Teil des Kontexts für den nächsten Schritt. Die aufgeschriebenen Schritte dienen als Notizzettel.
Diese Erklärung zeigt auch, wo CoT nicht hilft. Lässt sich die Aufgabe nicht in Schritte zerlegen, gibt es nichts, was auf den Notizzettel gehört. Bittest du ein Modell, „Schritt für Schritt“ darüber nachzudenken, welches von zwei Synonymen freundlicher klingt, bekommst du vor allem eine längere Antwort.
Ein konkretes Vorher und Nachher
Hier ein Problem, an dem Modelle scheitern, wenn sie in einem Zug antworten:
Ein Besprechungsraum ist von 09:00–10:30 und von 13:00–14:00 gebucht.
Ein Reinigungsteam braucht 45 Minuten, muss vor 12:00 fertig sein
und darf nicht vor 09:15 anfangen. Nenne alle möglichen Startzeiten
in Viertelstundenschritten.
Antwortet das Modell sofort, nennt es womöglich 09:15, was sich mit der Buchung überschneidet. Eine Version, die zuerst die Arbeit verlangt:
Ein Besprechungsraum ist von 09:00–10:30 und von 13:00–14:00 gebucht.
Ein Reinigungsteam braucht 45 Minuten, muss vor 12:00 fertig sein
und darf nicht vor 09:15 anfangen.
Schreibe zuerst die freien Zeitfenster zwischen 09:15 und 12:00 auf.
Prüfe dann, welche Startzeiten in Viertelstundenschritten für einen
45-Minuten-Slot in diesen Fenstern passen. Nenne zum Schluss die
möglichen Startzeiten.
Das ist besser als ein bloßes „Denk Schritt für Schritt“, denn es sagt dem Modell, auf welche Schritte es ankommt. Generisches CoT überlässt dem Modell die Zerlegung, geführtes CoT gibt ihm die richtige vor. Wenn du weißt, wie sich das Problem zerlegen lässt, sag es.
(Die Lösung der Vollständigkeit halber: freies Fenster von 10:30 bis 12:00, also 10:30, 10:45 und 11:00. 11:15 fällt weg, weil der Slot vor 12:00 enden muss. Wer die Schritte ausschreibt, übersieht diese letzte Grenze kaum.)
Funktioniert „Denk Schritt für Schritt“ bei Reasoning-Modellen noch?
Hier veralten die Tipps von 2023. Mehrere Modellfamilien haben inzwischen Reasoning-Modi oder eigene Reasoning-Modelle, die vor der sichtbaren Antwort einen verborgenen oder zusammengefassten Gedankengang erzeugen. Die o-Serie von OpenAI, das Extended Thinking von Anthropic und die Thinking-Modelle von Gemini sind Beispiele für diesen Ansatz.
Bei diesen Modellen ändert sich einiges:
- „Denk Schritt für Schritt“ bringt meist wenig, weil das Modell ohnehin Tokens aufs Nachdenken verwendet.
- Die Empfehlungen der Anbieter selbst raten eher zu Anweisungen auf hoher Ebene, statt exakte Schritte vorzuschreiben. Wer einem Reasoning-Modell genau vorgibt, wie es denken soll, schränkt es ein, und manchmal werden die Ergebnisse schlechter.
- Das Nachdenken steuerst du oft über eine API-Einstellung (eine Reasoning-Stufe oder ein Token-Budget fürs Denken) statt über den Prompt-Text.
Die praktische Regel lautet also: Bei einem normalen Chat-Modell ist ausdrückliches CoT bei mehrstufigen Problemen weiterhin ein nützliches Werkzeug. Bei einem Reasoning-Modell beschreibst du das Ziel, die Bedingungen und was eine richtige Antwort erfüllen muss, und lässt es selbst planen. Schau in die Dokumentation des Anbieters für das konkrete Modell, das du nutzt, denn dieses Feld ändert sich schnell.
Soll das Modell vor oder nach der Antwort nachdenken?
Davor. Immer davor.
Das ist einer der häufigsten Fehler bei strukturierten Prompts:
{
"answer": "approve",
"reasoning": "Der Antragsteller erfüllt die Einkommensgrenze und..."
}
Steht das Feld mit der Antwort zuerst, legt sich das Modell auf „approve“ fest und schreibt dann eine Begründung für eine Entscheidung, die schon gefallen ist. Aus der Überlegung wird eine nachträgliche Rechtfertigung. Dreh die Reihenfolge um, damit die Überlegung zuerst entsteht und die Antwort von ihr abhängen kann:
{
"reasoning": "Das Einkommen beträgt 52.000, die Grenze liegt bei 50.000, also ist es ausreichend. Die Schuldenquote beträgt 0,46, das Limit liegt bei 0,40, also wird es nicht erfüllt...",
"answer": "reject"
}
Dasselbe gilt für normalen Text: „Erkläre deine Überlegung und gib dann in der letzten Zeile die endgültige Antwort“ ist besser als „Gib die Antwort und erkläre, warum.“
Ein Vorbehalt, ehrlich gesagt: Der aufgeschriebene Gedankengang ist nicht garantiert eine getreue Darstellung dessen, wie das Modell zu seiner Antwort kam. Forschung zur Treue von CoT hat Fälle gefunden, in denen die genannte Überlegung Faktoren auslässt, die die Ausgabe tatsächlich beeinflusst haben. Sieh die Überlegung als nützliches Arbeitsergebnis, nicht als Prüfprotokoll.
Wie trennst du Überlegung und endgültige Ausgabe?
In einer Anwendung sollen Nutzer die Rechenschritte meist nicht sehen. Sie wollen die Antwort. Zwei zuverlässige Muster:
Tags im Klartext.
Gehe das Problem innerhalb von <thinking>-Tags durch.
Gib dann nur die endgültige Antwort innerhalb von <answer>-Tags aus.
Die <answer> muss eine einzelne Zahl ohne Einheit sein.
Dein Code liest aus, was in <answer> steht, und verwirft den Rest. Die Dokumentation von Anthropic empfiehlt dieses Tag-Muster für Claude, und es funktioniert auch modellübergreifend gut.
Getrennte Felder in strukturierter Ausgabe. Wenn du ohnehin JSON anforderst, ergänze ein Feld reasoning vor dem Feld answer, wie oben gezeigt, und zeige nur answer an. Wie du diese Struktur erzwingst, steht in unserem Leitfaden zu zuverlässigem JSON aus LLMs.
Bei Reasoning-Modellen, die intern denken, bekommst du normalerweise direkt die endgültige Antwort, manchmal mit einer optionalen Zusammenfassung der Überlegung über die API. Für den verborgenen Teil brauchst du keine Tags.
Wann ist Chain-of-Thought eine schlechte Idee?
Man setzt es leicht zu oft ein. Lass es weg, wenn:
- Die Aufgabe eine Abfrage oder eine einfache Umwandlung ist. Einen Satz übersetzen, Grammatik korrigieren, eine E-Mail-Adresse extrahieren. CoT kostet extra und redet dem Modell gelegentlich die offensichtlich richtige Antwort aus.
- Die Antwortzeit wichtiger ist als ein wenig mehr Genauigkeit. Reasoning-Tokens sind erzeugte Tokens. Ein Chatbot, der sechs Sekunden pausiert, um über „Wie sind eure Öffnungszeiten“ nachzudenken, ist ein schlechteres Produkt.
- Du mit klaren Regeln klassifizierst. Klare Definitionen und ein paar Beispiele schlagen hier meist das Nachdenken. Mehr dazu in Zero-Shot vs. Few-Shot Prompting.
- Du die Überlegung ungeprüft Endnutzern zeigen würdest. Zwischenschritte können halbgare oder falsche Aussagen enthalten, die die endgültige Antwort später korrigiert.
Verwandte Techniken, die du kennen solltest
Self-Consistency (Wang et al., 2022) erzeugt mehrere Gedankengänge und nimmt die Mehrheitsantwort. Das verbessert die Genauigkeit bei Problemen mit genau einer richtigen Antwort, kostet aber mehrere Modelldurchläufe.
Zerlegung auf mehrere Aufrufe. Statt eines langen Prompts, der alles erledigt, teilst du das Problem auf: Ein Aufruf extrahiert die Fakten, ein zweiter denkt darüber nach, ein dritter formatiert das Ergebnis. Jeder Prompt lässt sich leichter testen, und du siehst genau, wo etwas schiefgeht. In Produktivsystemen ist das oft die robustere Variante von CoT, und sie führt direkt zu Tool Calling und Agents.
Eine Überprüfung anfordern. Hat das Modell eine Antwort erzeugt, bittet ein zweiter Prompt es, diese Antwort anhand der ursprünglichen Bedingungen zu prüfen. Das fängt manche Fehler ab, allerdings teilt ein Modell, das seine eigene Arbeit prüft, seine eigenen blinden Flecken.
Die Kurzfassung
Chain-of-Thought gibt einem Modell Raum, aufeinander aufbauende Schritte durchzugehen, und dieser Raum zählt am meisten bei Mathe, Logik und Planung. Sag ihm, auf welche Schritte es ankommt, wenn du sie kennst. Setz die Überlegung vor die Antwort, nie dahinter. Blende die Zwischenschritte für Nutzer mit Tags oder getrennten Feldern aus. Und beschreibe bei Reasoning-Modellen das Ziel, statt das Denken vorzuschreiben.
Wenn du üben willst, zu erkennen, wann Reasoning hilft und wo es falsch platziert ist, führt dich das Thema Reasoning Schritt für Schritt durch diese Entscheidungen.
Häufige Fragen
Was ist Chain-of-Thought-Prompting?
Beim Chain-of-Thought-Prompting bittest du ein Sprachmodell, vor der endgültigen Antwort Zwischenschritte seiner Überlegung aufzuschreiben. Bekannt wurde die Methode durch Wei et al. (2022), die große Verbesserungen bei Mathe- und Logik-Benchmarks zeigten.
Funktioniert „Denk Schritt für Schritt“ noch?
Bei normalen Chat-Modellen kann es bei mehrstufigen Problemen weiterhin helfen. Bei Reasoning-Modellen, die ohnehin vor der Antwort nachdenken, ändert es meist wenig, und die Anbieter raten in der Regel davon ab, ihr internes Denken kleinteilig zu steuern.
Wann sollte ich Chain-of-Thought nicht einsetzen?
Lass es bei einfachen Abfragen, bei Klassifikation mit klaren Regeln oder bei kurzen Umformulierungen weg. Es kostet Tokens und Zeit, und bei leichten Aufgaben kann der zusätzliche Text Fehler erzeugen, statt sie zu verhindern.
Wie blende ich den Denkprozess in der endgültigen Ausgabe aus?
Bitte das Modell, seine Überlegung in ein Tag wie <thinking> zu schreiben und die endgültige Antwort in ein anderes wie <answer>, und zeige den Nutzern dann nur die Antwort. Bei strukturierter Ausgabe nimmst du dafür ein eigenes Feld für die Überlegung.
- #Chain of Thought
- #Reasoning
- #Schritt für Schritt denken
- #Reasoning-Modelle