JSON fiable con LLM: esquemas, validación y reintentos
Obtener JSON válido de un LLM exige más que pedirlo bien. Usa esquemas, salida estructurada, validación y reintentos, y evita los fallos habituales.
Structured output
El prompting de salida estructurada es la forma de conseguir que un modelo responda con una forma fija y legible por máquinas, normalmente un JSON que cumpla un esquema. El enfoque fiable combina un esquema claro, un ejemplo, el modo de salida estructurada o JSON del proveedor cuando exista, y validación en tu código con un reintento si falla el análisis.
Your app parses the model’s JSON, but sometimes the reply starts with “Sure! Here is the JSON:”. What is the most robust fix?
Tu app analiza el JSON del modelo, pero a veces la respuesta empieza con “¡Claro! Aquí tienes el JSON:”. ¿Cuál es el arreglo más robusto?
B. Usar el modo de salida estructurada / JSON de la API con un esquema y validar el resultado Los modos nativos de salida estructurada restringen la respuesta a un JSON válido, y la validación de esquema detecta el resto. Los trucos con cadenas de texto se rompen en cuanto cambia la redacción.
Da un esquema y un ejemplo, usa el modo de salida estructurada o JSON del proveedor si lo tiene, y valida la respuesta en el código. Si falla, reintenta incluyendo el error de validación.
Díselo de forma explícita, por ejemplo “usa null cuando el documento no lo diga”. Si no, los modelos tienden a rellenar los huecos con suposiciones verosímiles.
Obtener JSON válido de un LLM exige más que pedirlo bien. Usa esquemas, salida estructurada, validación y reintentos, y evita los fallos habituales.
Cómo funciona el tool calling en los LLM, cómo escribir descripciones de herramientas, cómo corren y paran los bucles de un agente y qué fallos prever.
Los prompts zero-shot solo dan instrucciones; los few-shot añaden ejemplos. Cuándo los ejemplos mejoran la respuesta y cuándo causan copias, sesgo y deriva.
Quizzes cortos sobre decisiones reales al escribir prompts, con una explicación para cada respuesta. Gratis para empezar en iPhone y Android.