JSON affidabile dagli LLM: schemi, validazione, retry
Ottenere JSON valido da un LLM richiede più che chiederlo con gentilezza: schemi, output strutturato, validazione e retry, e gli errori più comuni da evitare.
Structured output
Il prompting per output strutturato è il modo per far rispondere un modello in una forma fissa e leggibile dalle macchine, di solito JSON conforme a uno schema. L'approccio affidabile combina uno schema chiaro, un esempio, la modalità di output strutturato o JSON del provider quando disponibile, e la validazione nel tuo codice con un nuovo tentativo se l'analisi fallisce.
Your app parses the model’s JSON, but sometimes the reply starts with “Sure! Here is the JSON:”. What is the most robust fix?
La tua app analizza il JSON del modello, ma a volte la risposta inizia con “Certo! Ecco il JSON:”. Qual è la correzione più robusta?
B. Usare la modalità di output strutturato / JSON dell'API con uno schema e validare il risultato Le modalità native di output strutturato vincolano la risposta a JSON valido, e la validazione dello schema intercetta il resto. I trucchi sulle stringhe si rompono appena cambia la formulazione.
Fornisci uno schema e un esempio, usa la modalità di output strutturato o JSON del provider se ne ha una, e valida la risposta nel codice. In caso di errore, riprova includendo l'errore di validazione.
Diglielo esplicitamente, ad esempio “usa null quando il documento non lo indica”. Altrimenti i modelli tendono a colmare i vuoti con ipotesi plausibili.
Ottenere JSON valido da un LLM richiede più che chiederlo con gentilezza: schemi, output strutturato, validazione e retry, e gli errori più comuni da evitare.
Come funziona il tool calling degli LLM, come scrivere descrizioni che i modelli usano bene, come girano e si fermano i cicli degli agenti e gli errori tipici.
I prompt zero-shot hanno solo istruzioni; quelli few-shot aggiungono esempi. Quando gli esempi migliorano l'output e quando causano copiature, bias e derive.
Brevi quiz su vere decisioni di prompting, con una spiegazione per ogni risposta. Gratis per iniziare su iPhone e Android.