Qué es RAG: generación aumentada por recuperación
RAG recupera documentos relevantes y los añade al prompt para que el modelo responda con fuentes. Cómo funciona y cómo pedir respuestas ancladas y con citas.
Grounding
Grounding es lograr que un modelo responda a partir de fuentes que tú aportas y no de memoria. La retrieval-augmented generation (RAG) lo hace de forma automática: busca en tus documentos, mete los pasajes relevantes en el prompt y pide al modelo que responda a partir de ellos. Los buenos prompts de grounding le dicen al modelo que cite el pasaje que usó y que avise cuando las fuentes no contienen la respuesta.
Your app parses the model’s JSON, but sometimes the reply starts with “Sure! Here is the JSON:”. What is the most robust fix?
Un asistente RAG responde con seguridad incluso cuando los pasajes recuperados no cubren la pregunta. ¿Qué instrucción ayuda más?
B. “Responde solo con los pasajes de abajo. Si no contienen la respuesta, dilo.” Darle al modelo una vía explícita y permitida para decir “no está en las fuentes” reduce las respuestas inventadas. “Sé preciso” no le da nada en lo que apoyarse.
RAG es un patrón en el que un sistema recupera pasajes relevantes de un almacén de documentos y los añade al prompt, de modo que el modelo responde a partir de ese material y no solo de sus datos de entrenamiento. El término viene de Lewis et al. (2020).
No. Las reduce, pero el modelo aún puede interpretar mal los pasajes o ir más allá de ellos. Pedir citas y permitir el “no lo sé” hace más fácil detectar los errores.
RAG recupera documentos relevantes y los añade al prompt para que el modelo responda con fuentes. Cómo funciona y cómo pedir respuestas ancladas y con citas.
La prompt injection engaña a una IA para que siga instrucciones del atacante ocultas en la entrada o en documentos. Ataques directos e indirectos y defensas.
Los errores de prompt engineering que causan la mayoría de las malas respuestas de la IA, de la falta de contexto a las reglas contradictorias, con su solución.
Quizzes cortos sobre decisiones reales al escribir prompts, con una explicación para cada respuesta. Gratis para empezar en iPhone y Android.