Məzmuna keç
TokIQ
Texnikalar

Chain-of-Thought prompting: hələ də işləyirmi?

Chain-of-thought prompting modeldən cavabdan əvvəl addım-addım düşünməsini istəyir. Nə vaxt kömək etdiyini, reasoning modellərdə nə dəyişdiyini öyrən.

TokIQ Editorial5 dəq oxu
Bu məqalədə
  1. Mühakiməni yazmaq niyə kömək edir?
  2. Konkret əvvəl və sonra
  3. Reasoning modellərində "think step by step" hələ də işləyirmi?
  4. Model cavabdan əvvəl, yoxsa sonra mühakimə yürütməlidir?
  5. Reasoning-i yekun çıxışdan necə ayırmaq olar?
  6. Chain-of-thought nə vaxt pis fikirdir?
  7. Bilməyə dəyər əlaqəli texnikalar
  8. Qısa xülasə

Chain-of-thought (CoT) prompting dil modelindən cavabı verməzdən əvvəl aralıq addımları yazılı şəkildə keçməsini istəməkdir. Ən çox bir-birindən asılı bir neçə addımı olan məsələlərdə, məsələn hesab, məntiq və çoxşərtli planlaşdırmada kömək edir, sadə tapşırıqlarda isə az fayda verir. Yeni "reasoning" modelləri bunu daxildən edir, ona görə açıq addım-addım təlimatlar bir neçə il əvvəlkindən daha az lazımdır.

Texnikanın aydın mənşəyi var. 2022-ci ildə Wei et al. "Chain-of-Thought Prompting Elicits Reasoning in Large Language Models" məqaləsini dərc etdi. Orada göstərildi ki, yalnız cavabları yox, işlənmiş mühakiməni də ehtiva edən few-shot nümunələr böyük modelləri riyazi söz məsələlərində və oxşar benchmark-larda xeyli yaxşılaşdırır. Az sonra Kojima et al. ("Large Language Models are Zero-Shot Reasoners", 2022) aşkar etdi ki, heç bir nümunə olmadan sadəcə "Let's think step by step" əlavə etmək də oxşar effekt verir. O vaxtdan bu ifadə milyonlarla promptda kopyalanıb.

Mühakiməni yazmaq niyə kömək edir?

Model mətni bir-bir token ilə yaradır və hər token özündən əvvəlkilərdən asılıdır. Yekun cavabı dərhal çıxarmalıdırsa, bütün iş tək addımda görülməlidir. Əgər əvvəlcə "qatar 14:10-da yola düşür, səfər 2 saat 35 dəqiqə çəkir, deməli 16:45-də çatır" yazsa, hər aralıq nəticə növbəti addımın kontekstinin bir hissəsinə çevrilir. Yazılmış addımlar qaralama sahəsi kimi işləyir.

Bu izah CoT-nin harada kömək etməyəcəyini də göstərir. Tapşırıq addımlara bölünmürsə, qaralama sahəsinin saxlayacağı bir şey yoxdur. Modelə iki sinonimdən hansının daha səmimi səsləndiyi barədə "addım-addım düşün" demək çox vaxt sadəcə daha uzun cavab verir.

Konkret əvvəl və sonra

Budur, modellərin bir dəfəyə cavab verəndə büdrədiyi məsələ:

Görüş otağı 09:00–10:30 və 13:00–14:00 arası rezerv olunub.
Təmizlik briqadasına 45 dəqiqə lazımdır, 12:00-dan əvvəl
bitirməlidir və 09:15-dən əvvəl başlaya bilməz. Rübə uyğun
bütün düzgün başlama vaxtlarını sadala.

Dərhal cavab verəndə model 09:15 yaza bilər, bu isə rezervlə üst-üstə düşür. İşi əvvəlcə yazmağı istəyən versiya:

Görüş otağı 09:00–10:30 və 13:00–14:00 arası rezerv olunub.
Təmizlik briqadasına 45 dəqiqə lazımdır, 12:00-dan əvvəl
bitirməlidir və 09:15-dən əvvəl başlaya bilməz.

Əvvəlcə 09:15 ilə 12:00 arasındakı boş pəncərələri yaz.
Sonra hansı rüb başlama vaxtlarının bu pəncərələrdəki 45 dəqiqəlik
yerə sığdığını yoxla. Axırda düzgün başlama vaxtlarını sadala.

Diqqət et, bu, sadə "addım-addım düşün"-dən yaxşıdır. Çünki modelə hansı addımların vacib olduğunu deyir. Ümumi CoT modelə öz bölgüsünü seçməyə imkan verir, yönləndirilmiş CoT isə ona düzgün bölgünü verir. Məsələnin necə bölünməli olduğunu bilirsənsə, bunu de.

(Məlumat üçün cavab: boş pəncərə 10:30-dan 12:00-a qədərdir, yəni 10:30, 10:45 və 11:00. 11:15 çıxır, çünki slot 12:00-dan əvvəl bitməlidir. Addımları yazmaq bu son sərhədi gözdən qaçırmağı çətinləşdirir.)

Reasoning modellərində "think step by step" hələ də işləyirmi?

2023-ün məsləhətləri məhz burada köhnəlir. Bir neçə model ailəsində indi reasoning rejimləri və ya görünən cavabdan əvvəl gizli ya da xülasə edilmiş düşüncə zənciri yaradan xüsusi reasoning modelləri var. OpenAI-nin o-seriyası, Anthropic-in extended thinking-i və Gemini-nin thinking modelləri bu yanaşmanın nümunələridir.

Bu modellərdə bir neçə şey dəyişir:

  • "Think step by step" əlavə etmək adətən az iş görür, çünki model artıq tokenləri mühakiməyə sərf edir.
  • Provayderlərin öz tövsiyələri dəqiq addımları göstərmək əvəzinə yüksək səviyyəli təlimatlara üstünlük verir. Reasoning modelinə dəqiq necə düşünməli olduğunu demək onu məhdudlaşdıra və bəzən nəticələri pisləşdirə bilər.
  • Reasoning-i çox vaxt prompt mətni ilə yox, API ayarı (reasoning effort səviyyəsi və ya thinking token büdcəsi) ilə idarə edirsən.

Beləliklə, praktik qayda belədir: standart çat modelində açıq CoT çoxaddımlı məsələlər üçün hələ də faydalı alətdir. Reasoning modelində isə məqsədi, məhdudiyyətləri və düzgün cavabın nəyi ödəməli olduğunu təsvir et, planı ona burax. İstifadə etdiyin modelin provayder sənədlərinə bax, çünki bu sahə tez dəyişir.

Model cavabdan əvvəl, yoxsa sonra mühakimə yürütməlidir?

Əvvəl. Həmişə əvvəl.

Bu, strukturlaşdırılmış promptlarda ən çox rast gəlinən səhvlərdən biridir:

{
  "answer": "approve",
  "reasoning": "Müraciətçi gəlir həddini ödəyir və..."
}

Cavab sahəsi birinci gəlirsə, model "approve"-a qərar verir, sonra artıq verdiyi qərar üçün əsaslandırma yazır. Mühakimə rasionalizasiyaya çevrilir. Ardıcıllığı əksinə çevir ki, əvvəlcə reasoning yaradılsın və cavab ondan asılı ola bilsin:

{
  "reasoning": "Gəlir 52,000-dir, hədd 50,000-dir, deməli gəlir keçir. Borc əmsalı 0.46-dır, limit 0.40-dır, deməli keçmir...",
  "answer": "reject"
}

Eyni qayda sadə mətnə də aiddir: "Mühakimənı izah et, sonra yekun cavabı sonuncu sətirdə ver" tələbi "Cavabı ver və niyə olduğunu izah et" tələbindən yaxşıdır.

Dürüstcəsinə bir qeyd də vacibdir. Yazılmış düşüncə zəncirinin modelin cavaba necə gəldiyinin sadiq təsviri olacağına zəmanət yoxdur. CoT sədaqəti üzrə araşdırmalarda elə hallar tapılıb ki, bəyan edilən mühakimə çıxışa əslində təsir edən amilləri buraxır. Mühakiməni faydalı iş nəticəsi kimi qəbul et, audit jurnalı kimi yox.

Reasoning-i yekun çıxışdan necə ayırmaq olar?

Tətbiqdə istifadəçilər adətən qaralamanı görməməlidir. Onlar cavab istəyir. İki etibarlı yanaşma var:

Sadə mətndə teqlər.

Məsələni <thinking> teqlərinin içində həll et.
Sonra yalnız yekun cavabı <answer> teqlərinin içində ver.
<answer> vahidsiz tək rəqəm olmalıdır.

Kodun <answer>-in içindəkini götürür, qalanını atır. Anthropic-in sənədləri Claude üçün bu teq əsaslı yanaşmanı tövsiyə edir və o, müxtəlif modellərdə yaxşı işləyir.

Strukturlaşdırılmış çıxışda ayrıca sahələr. JSON istəyirsənsə, yuxarıda göstərildiyi kimi answer sahəsindən əvvəl reasoning sahəsi əlavə et və yalnız answer-i göstər. Bu strukturu necə təmin etməyi LLM-lərdən etibarlı JSON almaq bələdçimiz izah edir.

Daxildən düşünən reasoning modellərində adətən yekun cavabı birbaşa alırsan, bəzən API-dən könüllü reasoning xülasəsi ilə. Gizli hissə üçün teqlərə ehtiyac yoxdur.

Chain-of-thought nə vaxt pis fikirdir?

Onu həddindən artıq işlətmək asandır. Bu hallarda keç:

  • Tapşırıq axtarış və ya sadə çevrilmədir. Cümlə tərcümə etmək, qrammatikanı düzəltmək, e-poçt ünvanı çıxarmaq. CoT xərc əlavə edir və bəzən modeli aşkar düzgün cavabdan yayındırır.
  • Gecikmə cüzi dəqiqlikdən daha vacibdir. Reasoning tokenləri də yaradılan tokenlərdir. "İş saatlarınız nədir" sualı üzərində altı saniyə düşünən çatbot daha pis məhsuldur.
  • Aydın qaydalarla təsnifat edirsən. Burada aydın tərif və bir-iki nümunə adətən reasoning-dən yaxşı işləyir. Zero-shot və few-shot prompting yazısına bax.
  • Reasoning-i yoxlamadan son istifadəçilərə göstərmək istəyirsən. Aralıq addımlarda yarımçıq və ya yanlış iddialar ola bilər ki, yekun cavab onları sonradan düzəldir.

Bilməyə dəyər əlaqəli texnikalar

Self-consistency (Wang et al., 2022) bir neçə düşüncə zənciri nümunəsi götürür və çoxluq cavabını seçir. Tək düzgün cavabı olan məsələlərdə dəqiqliyi artırır, amma modelin dəfələrlə işə salınması bahasına.

Çağırışlar arasında bölmə. Hər şeyi edən bir uzun prompt əvəzinə məsələni böl: bir çağırış faktları çıxarır, ikincisi onlar üzərində mühakimə yürüdür, üçüncüsü nəticəni formatlayır. Hər promptu test etmək daha asandır və uğursuzluğun dəqiq harada baş verdiyini görürsən. Bu, çox vaxt istehsal sistemlərində CoT-nin daha dayanıqlı versiyasıdır və təbii olaraq alət çağırışı və agentlərə aparır.

Yoxlama istəmək. Model cavab verəndən sonra ikinci prompt ondan həmin cavabı ilkin məhdudiyyətlərə qarşı yoxlamasını istəyir. Bəzi xətaları tutur, amma öz işini yoxlayan model öz kor nöqtələrini də paylaşır.

Qısa xülasə

Chain-of-thought modelə bir-birindən asılı addımları keçmək üçün yer verir və bu yer ən çox riyaziyyat, məntiq və planlaşdırmada vacibdir. Hansı addımların vacib olduğunu bilirsənsə, modelə de. Mühakiməni cavabdan əvvələ qoy, heç vaxt sonraya yox. Qaralamanı istifadəçilərdən teqlər və ya ayrıca sahələrlə gizlət. Reasoning modellərində isə düşüncəni ssenari ilə yazmaq əvəzinə məqsədi təsvir et.

Reasoning-in nə vaxt kömək etdiyini və hara qoyulanda səhv olduğunu görməyi məşq etmək istəyirsənsə, reasoning mövzusu bu qərarları bir-bir izah edir.

Tez-tez verilən suallar

Chain-of-thought prompting nədir?

Chain-of-thought prompting dil modelindən yekun cavabı verməzdən əvvəl aralıq mühakimə addımlarını yazmasını istəyir. Onu Wei et al. (2022) məşhurlaşdırıb, onlar riyaziyyat və məntiq benchmark-larında böyük artım göstəriblər.

"Let's think step by step" hələ də işləyirmi?

Standart çat modellərində çoxaddımlı məsələlərdə hələ də kömək edə bilər. Cavab verməzdən əvvəl artıq düşünən reasoning modellərində bunu əlavə etmək adətən az şey dəyişir, provayderlər də ümumiyyətlə onların daxili düşüncəsinə çox qarışmamağı məsləhət görür.

Chain-of-thought-u nə vaxt işlətməməliyəm?

Sadə axtarış, aydın qaydalı təsnifat və ya qısa yenidən yazma tapşırıqlarında işlətmə. O, token və gecikmə əlavə edir, asan tapşırıqlarda əlavə mətn xətanın qarşısını almaq əvəzinə xəta yarada da bilər.

Reasoning-i yekun çıxışdan necə gizlətmək olar?

Modelə de ki, mühakiməsini <thinking> kimi bir tegin içinə, yekun cavabı isə <answer> kimi başqa tegin içinə yazsın, sonra istifadəçilərə yalnız cavabı göstər. Strukturlaşdırılmış çıxışda reasoning üçün ayrıca sahədən istifadə et.

  • #chain of thought
  • #reasoning
  • #addım-addım düşün
  • #reasoning modelləri

İndi məşq et

TokIQ prompt engineering-i qısa quizlərə çevirir, hər cavabın izahı ilə.

TezlikləApp StoreYüklə:Google Play
Texnikalar4 dəq oxu

System prompt necə yazılır (tam işlək nümunə ilə)

System prompt AI köməkçisinin rolunu, qaydalarını və formatını bütün söhbət üçün müəyyən edir. Nələrin daxil olduğunu, necə sıralanacağını və tam nümunəni gör.

Texnikalar4 dəq oxu

Few-shot prompting nədir? Nümunələr vs zero-shot

Zero-shot yalnız təlimat verir, few-shot isə nümunə əlavə edir. Nümunələrin nə vaxt kömək etdiyini, nə vaxt kopyalamaya və meylə yol açdığını öyrən.

Daha yaxşı prompt yaz, gündə bir neçə sualla.

Real prompting qərarları üzrə qısa quizlər, hər cavab üçün izah. iPhone və Android-də pulsuz başla.

TezlikləApp StoreYüklə:Google Play