Few-shot prompting spiegato: esempi contro zero-shot
I prompt zero-shot hanno solo istruzioni; quelli few-shot aggiungono esempi. Quando gli esempi migliorano l'output e quando causano copiature, bias e derive.
Examples
Il few-shot prompting consiste nell'includere nel prompt una manciata di esempi svolti (input e output desiderato) affinché il modello ne copi lo schema. È il modo più rapido per fissare un formato o uno stile di etichettatura. Il problema è che i modelli copiano tutto, comprese stranezze che non volevi, quindi la scelta e il bilanciamento degli esempi contano quanto l'istruzione.
Your app parses the model’s JSON, but sometimes the reply starts with “Sure! Here is the JSON:”. What is the most robust fix?
I tuoi 3 esempi per un classificatore di sentiment sono tutti etichettati “positivo”. Qual è l'effetto collaterale più probabile?
B. Il modello tende a rispondere “positivo” I modelli assorbono la distribuzione delle etichette negli esempi. Esempi sbilanciati distorcono l'output, quindi mescola le etichette e includi un caso borderline.
Lo zero-shot dà solo un'istruzione. Il few-shot aggiunge alcuni esempi input-output del compito. Gli esempi aiutano di più quando il formato o il giudizio sono difficili da descrivere a parole.
Di solito da due a cinque esempi ben scelti e variati. Più esempi costano token e possono spingere il modello a copiare troppo i dettagli superficiali.
I prompt zero-shot hanno solo istruzioni; quelli few-shot aggiungono esempi. Quando gli esempi migliorano l'output e quando causano copiature, bias e derive.
Ottenere JSON valido da un LLM richiede più che chiederlo con gentilezza: schemi, output strutturato, validazione e retry, e gli errori più comuni da evitare.
Gli errori di prompt engineering che causano la maggior parte dei risultati AI scadenti, dal contesto mancante alle regole in conflitto, con le correzioni.
Brevi quiz su vere decisioni di prompting, con una spiegazione per ogni risposta. Gratis per iniziare su iPhone e Android.