Qu'est-ce que la RAG ? La génération augmentée expliquée
La RAG récupère des documents pertinents et les ajoute au prompt pour que le modèle réponde depuis des sources. Fonctionnement et prompts avec citations.
Ancrage
L'ancrage (grounding) consiste à faire répondre un modèle à partir de sources que vous fournissez plutôt que de sa mémoire. La génération augmentée par récupération (RAG) le fait automatiquement : elle cherche dans vos documents, place les passages pertinents dans le prompt et demande au modèle de répondre à partir d'eux. De bons prompts d'ancrage demandent au modèle de citer le passage utilisé et de dire quand les sources ne contiennent pas la réponse.
Your app parses the model’s JSON, but sometimes the reply starts with “Sure! Here is the JSON:”. What is the most robust fix?
Un assistant RAG répond avec assurance même quand les passages récupérés ne couvrent pas la question. Quelle consigne aide le plus ?
B. « Réponds uniquement à partir des passages ci-dessous. S'ils ne contiennent pas la réponse, dis-le. » Donner au modèle un moyen explicite et autorisé de dire « ce n'est pas dans les sources » réduit les réponses inventées. « Sois précis » ne lui donne rien d'exploitable.
Le RAG est un schéma où un système récupère des passages pertinents dans une base documentaire et les ajoute au prompt, pour que le modèle réponde à partir de cette matière et non seulement de ses données d'entraînement. Le terme vient de Lewis et al. (2020).
Non. Il les réduit, mais le modèle peut encore mal lire ou aller au-delà des passages. Demander des citations et autoriser le « je ne sais pas » rend les erreurs plus faciles à repérer.
La RAG récupère des documents pertinents et les ajoute au prompt pour que le modèle réponde depuis des sources. Fonctionnement et prompts avec citations.
La prompt injection pousse une IA à suivre les instructions d'un attaquant cachées dans une saisie ou un document. Attaques directes, indirectes et parades.
Les erreurs de prompt engineering derrière la plupart des mauvaises réponses de l'IA, du contexte manquant aux règles contradictoires, avec un correctif.
De courts quiz sur de vraies décisions de prompting, avec une explication pour chaque réponse. Gratuit pour commencer sur iPhone et Android.