RAG nədir? Retrieval-Augmented Generation sadə izahı
RAG uyğun sənədləri tapıb promptun içinə əlavə edir ki, model mənbələrə əsasən cavab versin. Necə işlədiyini və istinadlı cavabları necə istəməyi gör.
Grounding
Grounding modelin yaddaşından yox, sənin verdiyin mənbələrdən cavab verməsini təmin etməkdir. Retrieval-augmented generation (RAG) bunu avtomatik edir: sənədlərində axtarır, uyğun hissələri promptə qoyur və modeldən onlara əsasən cavab verməsini istəyir. Yaxşı grounding promptları modelə istifadə etdiyi hissəyə istinad etməyi və mənbələrdə cavab olmayanda bunu deməyi tapşırır.
Your app parses the model’s JSON, but sometimes the reply starts with “Sure! Here is the JSON:”. What is the most robust fix?
RAG assistenti tapılan hissələr sualı əhatə etməyəndə də əminliklə cavab verir. Hansı təlimat ən çox kömək edir?
B. “Yalnız aşağıdakı hissələrə əsasən cavab ver. Onlarda cavab yoxdursa, bunu de.” Modelə “mənbələrdə yoxdur” demək üçün açıq, icazə verilən yol vermək uydurma cavabları azaldır. “Dəqiq ol” ona əməl edəcək heç nə vermir.
RAG sistemin sənəd anbarından uyğun hissələri tapıb promptə əlavə etdiyi yanaşmadır, beləliklə model yalnız təlim məlumatından yox, həmin materialdan cavab verir. Termin Lewis et al. (2020)-dən gəlir.
Xeyr. Onları azaldır, amma model yenə də hissələri yanlış oxuya və ya onlardan kənara çıxa bilər. İstinad istəmək və “bilmirəm” deməyə icazə vermək xətaları görməyi asanlaşdırır.
RAG uyğun sənədləri tapıb promptun içinə əlavə edir ki, model mənbələrə əsasən cavab versin. Necə işlədiyini və istinadlı cavabları necə istəməyi gör.
Prompt injection AI-ı giriş və ya sənədlərdə gizlənmiş hücumçu təlimatlarına əməl etməyə vadar edir. Birbaşa və dolayı hücumları, işləyən müdafiələri öyrən.
Prompt yazarkən edilən və pis AI cavablarının əksəriyyətinə səbəb olan səhvlər: çatışmayan kontekstdən ziddiyyətli qaydalara qədər, hər biri konkret həll ilə.
Real prompting qərarları üzrə qısa quizlər, hər cavab üçün izah. iPhone və Android-də pulsuz başla.