LLM'den Güvenilir JSON Alma: Şema, Doğrulama, Retry
LLM'den geçerli JSON almak sadece nazikçe istemekle olmaz. Şema, yapılandırılmış çıktı kipleri, doğrulama ve retry kullan, sık görülen hatalardan kaçın.
Yapılandırılmış çıktı
Yapılandırılmış çıktı prompt'u, bir modelin sabit, makine tarafından okunabilir bir biçimde, genellikle bir şemaya uyan JSON olarak cevap vermesini sağlama yoludur. Güvenilir yaklaşım; net bir şemayı, bir örneği, varsa sağlayıcının yapılandırılmış çıktı veya JSON modunu ve kodunda doğrulamayı, ayrıştırma başarısız olursa yeniden denemeyle birleştirir.
Your app parses the model’s JSON, but sometimes the reply starts with “Sure! Here is the JSON:”. What is the most robust fix?
Uygulaman modelin JSON'unu ayrıştırıyor ama cevap bazen “Tabii! İşte JSON:” diye başlıyor. En sağlam düzeltme nedir?
B. API'nin yapılandırılmış çıktı / JSON modunu bir şemayla kullanmak ve sonucu doğrulamak Yerel yapılandırılmış çıktı modları cevabı geçerli JSON ile sınırlar, şema doğrulaması da kalanı yakalar. Metin hileleri, ifade değiştiği anda bozulur.
Bir şema ve bir örnek ver, varsa sağlayıcının yapılandırılmış çıktı veya JSON modunu kullan ve cevabı kodda doğrula. Hata olursa doğrulama hatasını da ekleyerek yeniden dene.
Bunu açıkça söyle, örneğin “belge belirtmiyorsa null kullan”. Aksi halde modeller boşlukları makul tahminlerle doldurma eğilimindedir.
LLM'den geçerli JSON almak sadece nazikçe istemekle olmaz. Şema, yapılandırılmış çıktı kipleri, doğrulama ve retry kullan, sık görülen hatalardan kaçın.
LLM tool calling nasıl çalışır, modelin doğru kullanacağı tool açıklamaları nasıl yazılır, ajan döngüsü nasıl çalışıp durur, ajanlarda hangi hatalar çıkar.
Zero-shot yalnızca talimat verir, few-shot örnek ekler. Örneklerin çıktıyı ne zaman iyileştirdiğini, ne zaman kopyalamaya ve yanlılığa yol açtığını öğren.
Gerçek prompt kararları üzerine kısa quizler ve her cevap için açıklama. iPhone ve Android'de ücretsiz başla.