O que é RAG? Retrieval-augmented generation explicado
O RAG busca documentos relevantes e os coloca no prompt para o modelo responder com base em fontes. Veja como funciona e como pedir respostas com citações.
Grounding
Grounding significa fazer o modelo responder a partir de fontes que você fornece, e não da memória. A geração aumentada por recuperação (RAG) faz isso automaticamente: busca nos seus documentos, coloca os trechos relevantes no prompt e pede ao modelo que responda a partir deles. Bons prompts de grounding mandam o modelo citar o trecho que usou e avisar quando as fontes não contêm a resposta.
Your app parses the model’s JSON, but sometimes the reply starts with “Sure! Here is the JSON:”. What is the most robust fix?
Um assistente RAG responde com segurança mesmo quando os trechos recuperados não cobrem a pergunta. Qual instrução ajuda mais?
B. “Responda apenas com base nos trechos abaixo. Se eles não contiverem a resposta, diga isso.” Dar ao modelo uma forma explícita e permitida de dizer “não está nas fontes” reduz respostas inventadas. “Seja preciso” não lhe dá nada em que se apoiar.
RAG é um padrão em que um sistema recupera trechos relevantes de um repositório de documentos e os adiciona ao prompt, para que o modelo responda a partir desse material e não só dos dados de treinamento. O termo vem de Lewis et al. (2020).
Não. Ele as reduz, mas o modelo ainda pode interpretar mal ou ir além dos trechos. Pedir citações e permitir o “não sei” torna os erros mais fáceis de perceber.
O RAG busca documentos relevantes e os coloca no prompt para o modelo responder com base em fontes. Veja como funciona e como pedir respostas com citações.
Prompt injection engana a IA para seguir instruções do atacante escondidas na entrada ou em documentos. Veja ataques diretos, indiretos e as defesas eficazes.
Os erros de engenharia de prompts que causam a maioria das respostas ruins de IA, de contexto faltando a regras conflitantes, cada um com uma solução.
Quizzes curtos sobre decisões reais de prompting, com uma explicação para cada resposta. Grátis para começar no iPhone e no Android.