Few-shot prompting : exemples ou zero-shot, que choisir ?
Le zero-shot ne donne que des instructions, le few-shot ajoute des exemples. Quand ils améliorent la sortie, et quand ils provoquent copie, biais et dérive.
Exemples
Le prompting few-shot consiste à inclure dans le prompt quelques exemples détaillés (une entrée et la sortie souhaitée) pour que le modèle reproduise le schéma. C'est le moyen le plus rapide de fixer un format ou un style d'étiquetage. Le piège : les modèles copient tout, y compris des particularités involontaires, donc le choix et l'équilibre des exemples comptent autant que la consigne.
Your app parses the model’s JSON, but sometimes the reply starts with “Sure! Here is the JSON:”. What is the most robust fix?
Vos 3 exemples pour un classifieur de sentiment sont tous étiquetés « positif ». Quel effet secondaire est le plus probable ?
B. Le modèle penche vers la réponse « positif » Les modèles captent la distribution des étiquettes dans les exemples. Des exemples déséquilibrés biaisent la sortie : variez les étiquettes et incluez un cas limite.
Le zero-shot donne seulement une consigne. Le few-shot ajoute quelques exemples entrée-sortie de la tâche. Les exemples aident surtout quand le format ou le jugement sont difficiles à décrire avec des mots.
En général deux à cinq exemples bien choisis et variés. Plus d'exemples coûtent des tokens et peuvent pousser le modèle à trop copier les détails de surface.
Le zero-shot ne donne que des instructions, le few-shot ajoute des exemples. Quand ils améliorent la sortie, et quand ils provoquent copie, biais et dérive.
Obtenir un JSON valide d'un LLM ne se résume pas à demander poliment : schémas, sorties structurées, validation, nouvelles tentatives et pannes classiques.
Les erreurs de prompt engineering derrière la plupart des mauvaises réponses de l'IA, du contexte manquant aux règles contradictoires, avec un correctif.
De courts quiz sur de vraies décisions de prompting, avec une explication pour chaque réponse. Gratuit pour commencer sur iPhone et Android.