Məzmuna keç
TokIQ
Çıxış

LLM-lərdən etibarlı JSON almaq: sxem, yoxlama, təkrar

LLM-dən düzgün JSON almaq üçün sadəcə xahiş etmək kifayət deyil. Sxemlər, structured output rejimləri, yoxlama və təkrar cəhdlərlə tipik xətalardan qaç.

TokIQ Editorial5 dəq oxu
Bu məqalədə
  1. Modellər JSON-u ilk növbədə niyə pozur?
  2. Addım 1: Çıxışı promptda dəqiq təsvir et
  3. Addım 2: API-nin structured output funksiyasından istifadə et
  4. Addım 3: Tətbiq olunsa belə hər şeyi yoxla
  5. Addım 4: Kor-koranə yox, xəta ilə təkrar et
  6. JSON cavabında reasoning hara qoyulmalıdır?
  7. Çıxış sxemlərində tipik dizayn səhvləri
  8. Tək prompt nə vaxtsa kifayət edir?

Dil modelindən etibarlı JSON almaq üçün strukturu JSON Schema kimi təyin et, mümkün olduqda provayderin structured output funksiyasından istifadə et, hər cavabı kodda yoxla və uğursuz olanda yoxlama xətası ilə təkrar cəhd et. Yalnız prompt formulası səni yolun çox hissəsinə çatdırır, etibarlılığın son bir neçə faizi isə API-dən və öz yoxlamandan gəlir.

Bu fərq vacibdir, çünki "yolun çox hissəsi" kod üçün kifayət deyil. Cavabların 2%-də xəta verən parser miqyasda hər bir neçə dəqiqədən bir kimisə bağlanmış funksiya ilə qarşılaşdırır.

Modellər JSON-u ilk növbədə niyə pozur?

Düzəltməzdən əvvəl əslində nə baş verdiyini bilmək kömək edir. Rast gələcəyin təxmini ardıcıllıqla:

  1. Markdown blokları. Model ```json ... ``` qaytarır, çünki çat modelləri kodu səliqəli təqdim etməyə öyrədilib.
  2. Danışqan girişlər. "Əlbəttə! İstədiyin JSON budur:" və ardınca obyekt.
  3. Yanlış və ya uydurma açarlar. customer_name əvəzinə customerName və ya istəmədiyin əlavə notes sahəsi.
  4. Yanlış tiplər. String kimi "price": "19.99", "count": "three", massiv istədiyin yerdə tək obyekt.
  5. Kəsilmə. Cavab maksimum token limitinə çatır və obyektin ortasında dayanır.
  6. Sintaksisi düzgün, mənası boş cavab. Mükəmməl JSON, yanlış məzmun: səhv formatda tarix, halüsinasiya edilmiş telefon nömrəsi, dəyər girişdə göz qabağında olduğu halda null.

Structured output funksiyaları ilk beşini əsasən aradan qaldırır. Altıncını yaxşı prompt, grounding və yoxlamalardan başqa heç nə aradan qaldırmır.

Addım 1: Çıxışı promptda dəqiq təsvir et

Sxem tətbiq olunsa belə, hər sahənin nə demək olduğunu promptda izah edirsən. Sxem due_date-in string olduğunu deyir. Yalnız prompt onun ISO 8601 olmalı olduğunu və nisbi tarixlərin e-poçtun göndərilmə tarixinə görə həll edilməli olduğunu deyə bilər.

Zəif prompt:

Bu e-poçtdan faktura məlumatlarını JSON kimi çıxar.

Daha güclü prompt:

Aşağıdakı e-poçtdan faktura məlumatlarını çıxar.

Dəqiq bu açarları olan tək JSON obyekti qaytar:
- "vendor": string, fakturanı verən şirkət
- "invoice_number": string, yazıldığı kimi (öndəki sıfırları saxla)
- "total": number, faktura valyutasında, valyuta simvolu olmadan
- "currency": string, "USD" və ya "EUR" kimi ISO 4217 kodu
- "due_date": YYYY-MM-DD formatında string, göstərilməyibsə null

Dəyər e-poçtda yoxdursa, null yaz. Təxmin etmə.
Yalnız JSON obyektini qaytar, markdown və izahat olmadan.

<email>
{{email_text}}
</email>

Burada iki detal çox şey həll edir. "Öndəki sıfırları saxla" modelin 00417-ni "köməklik" edib 417-yə çevirməsinin qarşısını alır. "Null yaz, təxmin etmə" isə modelə qanuni çıxış yolu verir. Açıq null variantı olmasa, məcburi sahə qarşısında qalan model boş buraxmaq əvəzinə inandırıcı görünən dəyər uydurur.

Addım 2: API-nin structured output funksiyasından istifadə et

Böyük provayderlərin çoxu indi çıxışı sxemə bağlamağın bir yolunu təklif edir. Adlar və detallar fərqlidir və zamanla dəyişir, ona görə cari sənədlərə bax, amma əsas variantlar belədir:

  • OpenAI-də sintaksisi düzgün JSON-a zəmanət verən sadə JSON mode və strict rejimdə JSON Schema ötürdüyün, çıxışın ona uyğun olmağa məhdudlaşdırıldığı Structured Outputs var.
  • Google Gemini response MIME type-ı JSON təyin etməyə və response schema verməyə imkan verir.
  • Anthropic giriş sxemi olan alət təyin etməyə və Claude-un onu çağırmasına imkan verir, bu da sxemə uyğun arqumentlər verir. Sənədlərində native structured output dəstəyi də təsvir olunur.

Əsas fərq JSON mode ilə sxem tətbiqi arasındadır. JSON mode yalnız mətnin parse olunacağına söz verir. Açarların yenə yanlış ola bilər. Sxem tətbiqi (çox vaxt modelin növbəti hansı tokenləri yarada biləcəyini məhdudlaşdıran constrained decoding ilə edilir) formaya söz verir.

Faktura nümunəsi üçün sxem:

{
  "type": "object",
  "properties": {
    "vendor": { "type": ["string", "null"] },
    "invoice_number": { "type": ["string", "null"] },
    "total": { "type": ["number", "null"] },
    "currency": { "type": ["string", "null"], "enum": ["USD", "EUR", "GBP", null] },
    "due_date": { "type": ["string", "null"], "description": "YYYY-MM-DD" }
  },
  "required": ["vendor", "invoice_number", "total", "currency", "due_date"],
  "additionalProperties": false
}

Null ola bilən tiplərə diqqət et. Strict rejimlərdə adətən hər sahə məcburidir, ona görə "könüllü" ifadəsi "məcburi, amma null ola bilər" kimi yazılmalıdır. Həmçinin gözlənilməz sahələrin qarşısını alan additionalProperties: false-a bax. Strict rejimlər adətən JSON Schema-nın yalnız alt çoxluğunu dəstəkləyir, ona görə mürəkkəb bir şey qurmazdan əvvəl hansı açar sözlərə icazə verildiyini yoxla.

Python və ya TypeScript işlədirsənsə, sxemi Pydantic modeli və ya Zod sxemi kimi təyin et və JSON Schema-nı ondan yarat. Onda eyni təyin cavabı yoxlayır və ikisi bir-birindən ayrıla bilməz.

Addım 3: Tətbiq olunsa belə hər şeyi yoxla

Sxem tətbiqi strukturu təmin edir. Bunlara zəmanət vermir:

  • due_date-in real tarix olması (30 fevral düzgün string-dir),
  • total-ın sətir maddələrinin cəminə uyğun gəlməsi,
  • vendor-un mənbə e-poçtda harasa düşməsi,
  • modelin beş sətir maddəsindən üçüncüsünü atmaması.

Sənin sahən üçün vacib olan yoxlamaları yaz. Tarixləri parse et. Cəmlərin mənfi olmadığını yoxla. Çıxarma tapşırıqlarında çıxarılan string-lərin həqiqətən girişdə olduğunu yoxla. Bu tək test təəccüblü dərəcədə çox halüsinasiyanı tutur.

Addım 4: Kor-koranə yox, xəta ilə təkrar et

Yoxlama uğursuz olanda eyni sorğunu göndərib ümid etmə. Xətanı geri göndər:

Əvvəlki cavabın yoxlamadan keçmədi:
- "due_date": "March 3rd" YYYY-MM-DD formatına uyğun gəlmir
- "currency": "dollars" USD, EUR, GBP-dən biri deyil

Yalnız düzəldilmiş JSON obyektini qaytar.

Modellər konkret, adı çəkilmiş xətaları yaxşı düzəldir. Təkrarları bir və ya iki ilə məhdudlaşdır, hər uğursuzluğu logla və logları həftədə bir yoxla. Eyni sahədə təkrarlanan uğursuzluqlar adətən modelin etibarsız olduğunu yox, promptun və ya sxemin qeyri-müəyyən olduğunu göstərir. Instructor (Python) kimi kitabxanalar bu yoxla-və-təkrarla dövrünü sənin üçün bükür, amma yanaşma özün yazmaq üçün kifayət qədər sadədir.

Tətbiq dəstəyi olmayan provayderlərdə yalnız sintaksis pozulmalarında JSON.parse-dan əvvəl blokları və arxadakı mətni təmizləyən yumşaq parser ən çox rast gəlinən halları həll edir. Onu strategiya yox, ehtiyat yol kimi qəbul et.

JSON cavabında reasoning hara qoyulmalıdır?

Tapşırıq mühakimə tələb edirsə (əsaslandırması olan təsnifat, risk balı), reasoning sahəsini qərar sahəsindən əvvələ qoy:

{
  "evidence": "Müştəri mart fakturasında təkrar ödənişi qeyd edir.",
  "category": "billing",
  "confidence": "high"
}

Modellər sahələri ardıcıllıqla yaradır. Birinci yazılan qərar mühakimə ilə formalaşmır, sonradan əsaslandırılır. Bu mövzuya chain-of-thought prompting izahı yazısında daha dərindən toxunuruq.

Əks tərəf: reasoning sahələri hər çağırışda token xərcləyir. Sadə çıxarma üçün onları buraxın.

Çıxış sxemlərində tipik dizayn səhvləri

Səbəbsiz dərin yuvalama. Düz siyahının kifayət edəcəyi yerdə üç səviyyəli obyekt. Hər səviyyə modelin dəyəri səhv yerə qoya biləcəyi daha bir yerdir.

Enum olmalı olan sərbəst mətn sahələri. Aşağı axındakı kod status-a görə budaqlanırsa, onu enum et. Əks halda eyni şey üçün "Pending", "pending", "In progress" və "awaiting review" alacaqsan.

Qeyri-müəyyən sahə adları. Fakturadakı date buraxılış tarixi, son ödəniş tarixi və ya ödəniş tarixi ola bilər. Ona due_date de və təsvir et.

Bir çağırışda həddindən artıq şey istəmək. İyirmi səhifəlik müqavilədən çıxarılan qırx sahəli sxem buraxılmalara yol açır. Böl: hər bölmə üçün ayrıca çağırış və ya uyğun hissələri tapmaq üçün bir çağırış, onlardan çıxarmaq üçün digəri.

Boş halı unutmaq. E-poçt ümumiyyətlə faktura deyilsə, çıxış nə olmalıdır? is_invoice boolean əlavə et və ya boş nəticəyə icazə ver, yoxsa model nahar dəvətindən faktura çıxaracaq.

Tək prompt nə vaxtsa kifayət edir?

Prototiplər, əllə işlətdiyin skriptlər və structured output dəstəyi olmayan modellər üçün bəli. Dəqiq format təsviri, dəqiq çıxışın nümunəsi və müdafiə parser səni yüksək etibarlılığa çatdırır. İstifadəçiyə baxan hər şey üçün mümkün olan yerdə tətbiqdən, həmişə isə yoxlamadan istifadə et.

Əsas bacarıq hər halda eynidir: çıxışı elə dəqiq təsvir et ki, onu doldurmağın yalnız bir ağlabatan yolu qalsın. Structured output mövzusu bu qərarları məşq etdirir, əgər yaratdığın JSON yekun cavab yox, alət çağırışıdırsa, alət çağırışı və AI agentləri yazısı buradan davam edir. Mənbə sənədlərə əsaslanan çıxarma üçün RAG-in nə olduğuna bax.

Tez-tez verilən suallar

LLM-i düzgün JSON qaytarmağa necə məcbur etmək olar?

Provayderin JSON Schema ilə işləyən structured output funksiyası varsa, ondan istifadə et, çünki generasiyanı sxemə bağlayır. Sonra nəticəni yenə kodda yoxla və yoxlama uğursuz olanda təkrar cəhd et ya da düzəlt.

JSON mode ilə structured outputs arasında fərq nədir?

JSON mode modelin sintaksisi düzgün JSON yaratmasını təmin edir, amma sənin açarlarına və tiplərinə zəmanət vermir. Strict sxemlə structured outputs isə çıxışı verdiyin sxemə uyğun olmağa məhdudlaşdırır.

LLM-im niyə JSON-u markdown kod bloklarına bükür?

Çat üçün tənzimlənmiş modellər kodu insanlar üçün səliqəli göstərməyə öyrədilib. Modelə yalnız xam JSON obyektini qaytarmasını de və ya structured output rejimindən istifadə et, parserdə isə bloku ehtiyat üçün təmizlə.

Sxem olsa belə LLM-in JSON-unu yoxlamalıyam?

Bəli. Sxem formaya zəmanət verir, həqiqətə yox. JSON tam düzgün ola bilər və yenə də yanlış tarix, uydurma dəyər və ya məlumat olan yerdə boş sahə ehtiva edə bilər.

  • #structured output
  • #JSON
  • #JSON schema
  • #yoxlama

İndi məşq et

TokIQ prompt engineering-i qısa quizlərə çevirir, hər cavabın izahı ilə.

TezlikləApp StoreYüklə:Google Play

Daha yaxşı prompt yaz, gündə bir neçə sualla.

Real prompting qərarları üzrə qısa quizlər, hər cavab üçün izah. iPhone və Android-də pulsuz başla.

TezlikləApp StoreYüklə:Google Play