Zuverlässiges JSON von LLMs: Schema, Validierung, Retries
Gültiges JSON von einem LLM bekommst du nicht durch höfliches Bitten. Schemas, Structured-Output-Modi, Validierung und Retries und die häufigsten Fehlerquellen.
Strukturierte Ausgabe
Prompting für strukturierte Ausgabe bringt ein Modell dazu, in einer festen, maschinenlesbaren Form zu antworten, meist als JSON, das zu einem Schema passt. Zuverlässig wird es durch die Kombination aus klarem Schema, einem Beispiel, dem Structured-Output- oder JSON-Modus des Anbieters (sofern vorhanden) und Validierung in deinem Code mit einem erneuten Versuch, wenn das Parsen scheitert.
Your app parses the model’s JSON, but sometimes the reply starts with “Sure! Here is the JSON:”. What is the most robust fix?
Deine App parst das JSON des Modells, aber manchmal beginnt die Antwort mit „Klar! Hier ist das JSON:“. Was ist die robusteste Lösung?
B. Den Structured-Output- bzw. JSON-Modus der API mit einem Schema nutzen und das Ergebnis validieren Native Structured-Output-Modi beschränken die Antwort auf gültiges JSON, und die Schema-Validierung fängt den Rest ab. String-Hacks brechen, sobald sich die Formulierung ändert.
Gib ein Schema und ein Beispiel vor, nutze den Structured-Output- oder JSON-Modus des Anbieters, falls es einen gibt, und validiere die Antwort im Code. Bei einem Fehler versuche es erneut und gib die Validierungsmeldung mit.
Sag es ausdrücklich, zum Beispiel „nimm null, wenn das Dokument es nicht nennt“. Sonst füllen Modelle Lücken gern mit plausiblen Vermutungen.
Gültiges JSON von einem LLM bekommst du nicht durch höfliches Bitten. Schemas, Structured-Output-Modi, Validierung und Retries und die häufigsten Fehlerquellen.
Wie LLM Tool Calling funktioniert, wie du Tool-Beschreibungen richtig schreibst, wie Agent-Schleifen laufen und enden und welche Fehler du einplanst.
Zero-Shot-Prompts haben nur Anweisungen, Few-Shot-Prompts zusätzlich Beispiele. Wann Beispiele die Ausgabe verbessern und wann sie Kopieren und Bias auslösen.
Kurze Quizze zu echten Prompting-Entscheidungen, mit einer Erklärung zu jeder Antwort. Kostenlos starten auf iPhone und Android.