RAG Nedir? Retrieval-Augmented Generation Basitçe
RAG ilgili belgeleri bulup prompt'a ekler, model kaynaklardan cevap verir. Nasıl çalıştığını ve kaynak gösteren cevaplar için nasıl prompt yazacağını gör.
Temellendirme
Temellendirme (grounding), bir modelin hafızasından değil, senin verdiğin kaynaklardan cevap vermesini sağlamaktır. Retrieval-augmented generation (RAG) bunu otomatik yapar: belgelerinde arama yapar, ilgili pasajları prompt'a koyar ve modelden bunlara dayanarak cevap vermesini ister. İyi temellendirme prompt'ları, modele kullandığı pasajı belirtmesini ve kaynaklar cevabı içermediğinde bunu söylemesini bildirir.
Your app parses the model’s JSON, but sometimes the reply starts with “Sure! Here is the JSON:”. What is the most robust fix?
Bir RAG asistanı, getirilen pasajlar soruyu kapsamadığında bile kendinden emin cevap veriyor. Hangi talimat en çok yardımcı olur?
B. “Yalnızca aşağıdaki pasajlara dayanarak cevap ver. İçlerinde cevap yoksa bunu söyle.” Modele “kaynaklarda yok” demesi için açık, izin verilmiş bir yol vermek uydurulmuş cevapları azaltır. “Doğru ol” ona uygulayabileceği hiçbir şey vermez.
RAG, bir sistemin belge deposundan ilgili pasajları getirip prompt'a eklediği bir kalıptır; böylece model yalnızca eğitim verisinden değil, bu materyalden cevap verir. Terim Lewis ve ark. (2020) çalışmasından gelir.
Hayır. Azaltır, ama model pasajları yine yanlış okuyabilir ya da onların ötesine geçebilir. Alıntı istemek ve “bilmiyorum”a izin vermek hataları fark etmeyi kolaylaştırır.
RAG ilgili belgeleri bulup prompt'a ekler, model kaynaklardan cevap verir. Nasıl çalıştığını ve kaynak gösteren cevaplar için nasıl prompt yazacağını gör.
Prompt injection, bir yapay zekayı girdi ya da belgelere gizlenmiş saldırgan talimatlarına uydurur. Doğrudan ve dolaylı saldırıyı, işe yarayan önlemleri öğren.
Kötü yapay zeka çıktılarının çoğuna yol açan prompt hataları: eksik bağlam, çelişen kurallar, test edilmemiş değişiklikler. Her biri somut bir çözümle.
Gerçek prompt kararları üzerine kısa quizler ve her cevap için açıklama. iPhone ve Android'de ücretsiz başla.