Məzmuna keç
TokIQ
Agentlər

LLM tool calling və AI agentlərinin əsasları

LLM tool calling necə işləyir, düzgün alət təsvirləri necə yazılır, agent dövrü necə işləyib dayanır və agentlərdə hansı xətalara hazır olmalı.

TokIQ Editorial5 dəq oxu
Bu məqalədə
  1. Alət təyini necə görünür?
  2. Modelin düzgün istifadə edəcəyi alət təsvirlərini necə yazmalı?
  3. Agent dövrü necə işləyir?
  4. Agent nə vaxt dayanacağına necə qərar verməlidir?
  5. Ən çox rast gəlinən agent xətaları hansılardır?
  6. Bəs təhlükəsizlik?
  7. Agent ümumiyyətlə lazımdırmı?
  8. MCP harada yerləşir?

Tool calling (və ya function calling) dil modelinə tətbiqindən funksiya işlətməyi xahiş etməyə imkan verir: mövcud alətləri adlar, təsvirlər və parametr sxemləri ilə təsvir edirsən, model get_order_status(order_id="A-1042") kimi strukturlaşdırılmış çağırışla cavab verir, kodun onu işlədir və nəticə modelə qayıdır. Agent eyni mexanizmin dövr içində olmasıdır: model alətləri seçməyə və nəticələri oxumağa davam edir, ta ki tapşırığın bitdiyinə qərar verənə qədər.

Model heç nəyi özü icra etmir. O, təsadüfən düzgün formalaşmış sorğu olan mətn yaradır. Bunu yadda saxlasan, agentlər haqqında dizayn qərarlarının çoxu, xüsusən də təhlükəsizlik qərarları daha aydın olur.

Alət təyini necə görünür?

OpenAI, Anthropic və Google arasında sorğu formatları bir qədər fərqlənir, amma hər alət təyini eyni üç hissədən ibarətdir: ad, təbii dildə təsvir və parametrlər üçün JSON Schema.

Zəif təyin:

{
  "name": "search",
  "description": "Nəsə axtarır.",
  "parameters": {
    "type": "object",
    "properties": { "q": { "type": "string" } }
  }
}

Daha yaxşısı:

{
  "name": "search_help_center",
  "description": "Ledgerly tətbiqinin açıq yardım mərkəzi məqalələri üzrə tam mətn axtarışı. İstifadəçi funksiyanın necə işlədiyini və ya problemi necə həll edəcəyini soruşanda istifadə et. İstifadəçinin öz hesab verilənlərində axtarmır; bunun üçün get_account_summary istifadə et. Başlıq, URL və qısa çıxarışla ən çox 5 məqalə qaytarır.",
  "parameters": {
    "type": "object",
    "properties": {
      "query": {
        "type": "string",
        "description": "İngilis dilində qısa axtarış ifadəsi, məsələn 'export invoices to CSV'. İstifadəçinin sualını olduğu kimi ötürmə, açar sözlərə çevir."
      }
    },
    "required": ["query"]
  }
}

Təsvir bir promptdur. Model onu alətdən nə vaxt istifadə edəcəyinə, nə ötürəcəyinə və geri nə gözləyəcəyinə qərar vermək üçün oxuyur. Anthropic-in tool use sənədləri ətraflı təsvirləri alət performansının ən vacib amili kimi vurğulayır və bu, praktikada gördüklərinlə uyğun gəlir.

Modelin düzgün istifadə edəcəyi alət təsvirlərini necə yazmalı?

Yeni developerin tanımadığı API-ni çağırmazdan əvvəl verəcəyi suallara cavab ver:

  • Nə edir və nə etmir? "İstifadəçinin hesab verilənlərində axtarmır" bütöv bir yanlış çağırış sinfinin qarşısını alır.
  • Oxşar alətin əvəzinə nə vaxt istifadə olunmalıdır? Üst-üstə düşən alətlər yanlış alət seçiminin əsas səbəbidir. İki alət sorğunu ağlabatan şəkildə idarə edə bilirsə, hansının üstün olduğunu de.
  • Parametrlər nə deməkdir, nümunələrlə? Formatlar (ISO tarixlər, sent və dollar, prefiksli və ya prefikssiz ID-lər) və qeyri-müəyyən hər şey üçün nümunə dəyər.
  • Nə qaytarır? Boş nəticənin nə demək olduğu da daxil.
  • Yan təsirləri varmı? "E-poçtu dərhal göndərir; geri qaytarmaq olmaz" ehtiyatlı modelin davranışını dəyişir və tətbiqinin onu necə qapılaması lazım olduğunu da dəyişməlidir.

Alətləri yan-yana aydın oxunsun deyə adlandır: search_help_center, get_account_summary, create_support_ticket. search və ya run kimi ümumi adlardan qaç, onlar sui-istifadəyə dəvət edir.

Faydalı xətalar da qaytar. Çağırış uğursuz olarsa, "error": "order_id must look like A-1234; got 1234" kimi alət nəticəsi modelə növbəti addımda öz çağırışını düzəltməyə imkan verir. Çılpaq 500 isə vermir.

Agent dövrü necə işləyir?

Agent framework-lərinin çoxunun fərqli variantlarla həyata keçirdiyi əsas dövr:

  1. Modelə söhbəti, system promptu və alət təyinlərini göndər.
  2. Model yalnız mətnlə cavab verirsə, addım bitdi.
  3. Bir və ya bir neçə alət çağırışı ilə cavab verirsə, kodun onları yoxlayıb işlədir.
  4. Nəticələri alət nəticələri kimi söhbətə əlavə et.
  5. 1-ci addıma qayıt.

Mühakimənin hərəkətlər və müşahidələrlə növbələşdirilməsi olan bu yanaşma ReAct məqaləsində (Yao et al., 2022) təsvir olunub və o vaxtdan qurulmuş agentlərin çoxunun onurğasıdır. Müasir API-lər bunu, o cümlədən tək addımda bir neçə alət çağırışını, nativ dəstəkləyir.

Dövr sadədir. Onun düzgün davranmasına nail olmaq isə əsas işdir.

Agent nə vaxt dayanacağına necə qərar verməlidir?

İki növ dayanma şərti var və ikisi də lazımdır.

Tapşırıq səviyyəsində, promptda. Agentə "bitdi"nin nə demək olduğunu de:

İstifadəçinin sualı cavablandırıldıqda və ya mövcud alətlərlə
cavablandırıla bilməyəcəyini müəyyən etdikdə işin bitir.
İki axtarışdan sonra uyğun məqalə tapmamısansa, axtarışı dayandır
və istifadəçiyə nə sınadığını söylə.
Sorğu birdən çox hesaba və ya fakturaya aid ola bilərsə, təxmin
etmək əvəzinə istifadəçiyə dəqiqləşdirici sual ver.

Belə təlimat olmadan agentlər ya çox tez dayanır (axtarmadan öz biliyindən cavab verir), ya da davam edir (daha yaxşı nəticə ümidi ilə cüzi variasiyalarla yenidən axtarır).

Sərt limitlər, kodda. Maksimum iterasiya sayı, token və ya xərc büdcəsi və real vaxt timeout-u. Limit dolanda səliqəli bitir: indiyə qədər tapılanı qaytar və tapşırığın tamamlanmadığını de. Pul xərcləyən dövrü dayandırmaq üçün heç vaxt yalnız modelə güvənmə.

Ən çox rast gəlinən agent xətaları hansılardır?

Yanlış alət seçimi. Adətən üst-üstə düşən alətlər və ya qeyri-müəyyən təsvirlər səbəb olur. Əvvəlcə təsvirləri düzəlt. Bu kifayət deyilsə, bu tapşırıq üçün mövcud alətlərin sayını azalt.

Halüsinasiya edilmiş arqumentlər. İstifadəçi "son sifarişim" dediyi üçün model sifariş ID-si uydurur. Ona ID-ləri alətlə axtarmağı və ya istifadəçidən soruşmağı tapşır, arqumentləri icradan əvvəl kodda yoxla.

Dövrə düşmə. Agent uğursuz çağırışı kiçik variasiyalarla təkrarlayır. Dövründə eyni və ya demək olar eyni çağırışların təkrarını aşkarla və çıx, alət xətalarını düzəldilə biləcək qədər məlumatlı et.

Vaxtından əvvəl uğur. Yeniləmə çağırışı əslində uğursuz olanda agent "Hazırdır, qeydi yenilədim" bildirir. Alət nəticələrini uğur və ya uğursuzluq barədə açıq et, vacib tapşırıqlar üçün nəticəni ayrıca oxuma çağırışı ilə yoxla.

Kontekstin şişməsi. Alət nəticələri böyük ola bilər (tam veb səhifə, 2.000 sətirlik sorğu). Uzun dövrlər konteksti köhnə çıxışla doldurur və model ilkin məqsədi itirir. Alət nəticələrini qaytarmazdan əvvəl kəs və ya xülasə et, yalnız modelin ehtiyac duyduğu sahələri qaytar.

Həddindən çox alət. Alət əlavə etdikcə, xüsusən də oxşar olanları, dəqiqlik azalmağa meyllidir. Hər tapşırığa ən kiçik faydalı dəsti ver və ya alətləri sorğuya görə dinamik yüklə.

Bəs təhlükəsizlik?

Hər alət prompt injection-un borc götürə biləcəyi imkandır. Agentin veb səhifələri və ya e-poçtları oxuyur və həm də mesaj göndərən aləti varsa, səhifəyə düzgün mətn yazan hücumçu onu mesaj göndərməyə vadar edə bilər.

Praktik qaydalar:

  • Promptda yox, kodda avtorizasiya et. Alət son istifadəçinin səlahiyyətləri ilə işləməlidir ki, aldadılmış model istifadəçinin çıxış əldə edə bilmədiyi verilənlərə çata bilməsin.
  • Nəticəsi ağır olan hərəkətləri təsdiqlə. Ödənişlər, silmələr, çıxan mesajlar, icazə dəyişiklikləri: istifadəçiyə nə baş verəcəyini dəqiq göstər və təsdiq tələb et.
  • Arqumentləri yoxla. İcradan əvvəl sxem yoxlaması və biznes qaydaları (məbləğ limitləri, icazə verilən alıcılar).
  • Oxuma və yazma alətlərini ayır. Yalnız oxuma alətləri olan araşdırma addımı nə qədər çaşsa da, heç nəyi korlaya bilməz.

Agent ümumiyyətlə lazımdırmı?

Çox vaxt yox. Addımlar əvvəlcədən məlumdursa (tap, sonra xülasə et, sonra formatla), ayrı model çağırışlarından ibarət sabit pipeline daha ucuz, daha sürətli, test etmək və debug etmək daha asandır. Agentlər mürəkkəbliyi yolun həqiqətən aralıq nəticələrdən asılı olduğu halda ödəyir: model növbəti nəyi axtaracağını bilmək üçün əvvəlcə nəyisə axtarmalıdır.

Ağlabatan gedişat: tək promptla başla. Faktlar lazımdırsa, retrieval əlavə et (RAG nədir). Bir hərəkət üçün tək alət çağırışı əlavə et. Yalnız bundan sonra dövr qur.

MCP harada yerləşir?

Anthropic tərəfindən 2024-ün sonunda təqdim edilən və sonra digər provayderlər və alətlər tərəfindən qəbul olunan Model Context Protocol tətbiqlərin alətləri və verilənləri modellərə necə təqdim etdiyini standartlaşdırır. O, boru kəməri məsələsini həll edir: bir server təyini bir çox klientdən istifadə oluna bilir. Yuxarıdakı məsləhətlərin heç birini dəyişmir. Pis təsvir olunmuş alət MCP üzərindən də eyni qədər çaşdırıcıdır, çoxlu üçüncü tərəf serverin qoşulması isə həm imkanları, həm də hücum səthini artırır.

Alət çağırışlarının çıxış tərəfi (sxemlər, strict rejimlər, yoxlama) üçün LLM-lərdən etibarlı JSON almaq yazısına bax. Alətlər və agentlər mövzusu bu dizayn qərarlarını məşq suallarına bölür.

Tez-tez verilən suallar

LLM-lərdə tool calling nədir?

Tool calling, yəni function calling, modelin sənin təyin etdiyin funksiyanı, məsələn verilənlər bazasında axtarışı və ya e-poçt göndərməyi işə salmaq üçün strukturlaşdırılmış sorğu ilə cavab verməsinə imkan verir. Funksiyanı sənin kodun işlədir və nəticəni modelə qaytarır, model isə davam edir.

Modelin özü alətin icra edirmi?

Xeyr. Model yalnız alətin adını və arqumentlərini çıxarır. Onu işlədib-işlətməməyə tətbiqin qərar verir, işlədir və nəticəni geri göndərir. Buna görə icazə yoxlamaları sənin kodunda olmalıdır.

Tool calling ilə AI agenti arasında fərq nədir?

Tool calling tək bir imkandır: model bir funksiyanın işə salınmasını xahiş edir. Agent isə modelin dəfələrlə növbəti hansı alətin çağırılacağına qərar verdiyi, nəticələri müşahidə etdiyi və tapşırıq bitənə ya limit dolana qədər davam etdiyi dövrdür.

Agentə neçə alət vermək olar?

Sabit limit yoxdur, amma alət siyahıları böyüdükcə və alətlər üst-üstə düşdükcə dəqiqlik azalmağa meyllidir. Hər tapşırıq üçün dəsti kiçik və fərqli saxla, ya da uyğun alətləri dinamik yüklə.

  • #tool calling
  • #function calling
  • #AI agentləri
  • #agent dövrü
  • #MCP

İndi məşq et

TokIQ prompt engineering-i qısa quizlərə çevirir, hər cavabın izahı ilə.

TezlikləApp StoreYüklə:Google Play

Daha yaxşı prompt yaz, gündə bir neçə sualla.

Real prompting qərarları üzrə qısa quizlər, hər cavab üçün izah. iPhone və Android-də pulsuz başla.

TezlikləApp StoreYüklə:Google Play