JSON confiável com LLMs: schemas, validação e retentativas
Obter JSON válido de um LLM exige mais que pedir com educação. Use schemas, saída estruturada, validação e retentativas e evite as falhas mais comuns.
Saída estruturada
O prompting de saída estruturada é como você faz um modelo responder em um formato fixo e legível por máquina, geralmente um JSON que segue um esquema. A abordagem confiável combina um esquema claro, um exemplo, o modo de saída estruturada ou JSON do provedor quando disponível e validação no seu código, com nova tentativa quando o parsing falha.
Your app parses the model’s JSON, but sometimes the reply starts with “Sure! Here is the JSON:”. What is the most robust fix?
Seu app processa o JSON do modelo, mas às vezes a resposta começa com “Claro! Aqui está o JSON:”. Qual é a correção mais robusta?
B. Usar o modo de saída estruturada / JSON da API com um esquema e validar o resultado Os modos nativos de saída estruturada restringem a resposta a um JSON válido, e a validação de esquema pega o resto. Gambiarras com strings quebram assim que a redação muda.
Dê um esquema e um exemplo, use o modo de saída estruturada ou JSON do provedor, se houver, e valide a resposta no código. Em caso de falha, tente de novo incluindo o erro de validação.
Diga isso explicitamente, por exemplo “use null quando o documento não informar”. Caso contrário, os modelos tendem a preencher lacunas com palpites plausíveis.
Obter JSON válido de um LLM exige mais que pedir com educação. Use schemas, saída estruturada, validação e retentativas e evite as falhas mais comuns.
Como funciona o tool calling em LLMs, como escrever descrições de ferramentas que o modelo usa bem, como os loops de agentes rodam e param e as falhas a prever.
Prompts zero-shot trazem só instruções; os few-shot acrescentam exemplos. Veja quando exemplos melhoram o resultado e quando causam cópia, viés e deriva.
Quizzes curtos sobre decisões reais de prompting, com uma explicação para cada resposta. Grátis para começar no iPhone e no Android.