Obtenir du JSON fiable d'un LLM : schéma, validation
Obtenir un JSON valide d'un LLM ne se résume pas à demander poliment : schémas, sorties structurées, validation, nouvelles tentatives et pannes classiques.
Sortie structurée
Le prompting de sortie structurée sert à obtenir d'un modèle une réponse de forme fixe et lisible par une machine, généralement du JSON conforme à un schéma. L'approche fiable combine un schéma clair, un exemple, le mode de sortie structurée ou JSON du fournisseur quand il existe, et une validation dans votre code avec une nouvelle tentative en cas d'échec de l'analyse.
Your app parses the model’s JSON, but sometimes the reply starts with “Sure! Here is the JSON:”. What is the most robust fix?
Votre appli analyse le JSON du modèle, mais la réponse commence parfois par « Bien sûr ! Voici le JSON : ». Quelle est la correction la plus robuste ?
B. Utiliser le mode de sortie structurée / JSON de l'API avec un schéma et valider le résultat Les modes natifs de sortie structurée contraignent la réponse à du JSON valide, et la validation de schéma rattrape le reste. Les bricolages sur les chaînes cassent dès que la formulation change.
Fournissez un schéma et un exemple, utilisez le mode de sortie structurée ou JSON du fournisseur s'il en a un, et validez la réponse dans le code. En cas d'échec, réessayez en incluant l'erreur de validation.
Dites-le-lui explicitement, par exemple « utilise null quand le document ne le précise pas ». Sinon, les modèles ont tendance à combler les trous par des suppositions plausibles.
Obtenir un JSON valide d'un LLM ne se résume pas à demander poliment : schémas, sorties structurées, validation, nouvelles tentatives et pannes classiques.
Comment fonctionne le tool calling d'un LLM : décrire les outils, faire tourner et arrêter une boucle d'agent, et les pannes à prévoir.
Le zero-shot ne donne que des instructions, le few-shot ajoute des exemples. Quand ils améliorent la sortie, et quand ils provoquent copie, biais et dérive.
De courts quiz sur de vraies décisions de prompting, avec une explication pour chaque réponse. Gratuit pour commencer sur iPhone et Android.