Tool calling negli LLM: function calling e agenti AI
Come funziona il tool calling degli LLM, come scrivere descrizioni che i modelli usano bene, come girano e si fermano i cicli degli agenti e gli errori tipici.
Tools & agents
Il tool calling permette a un modello di richiedere un'azione, come cercare, leggere un file o chiamare un'API, restituendo una chiamata strutturata che il tuo codice esegue. Un agente AI ripete questo ciclo finché il compito non è completato. Qui il prompting riguarda soprattutto nomi e descrizioni chiari degli strumenti, parametri precisi e regole su quando agire, quando chiedere e quando fermarsi.
Your app parses the model’s JSON, but sometimes the reply starts with “Sure! Here is the JSON:”. What is the most robust fix?
Un agente continua a chiamare lo stesso strumento di ricerca in un ciclo. Quale modifica aiuta di più?
B. Descrivere quando lo strumento è utile e aggiungere una regola di arresto, come un numero massimo di ricerche prima di rispondere Gli agenti decidono in base alle descrizioni degli strumenti e alle condizioni di arresto. Senza uno scopo chiaro e un limite, ripetere la chiamata sembra al modello ragionevole quanto fermarsi.
Il tool calling è quando il modello restituisce una richiesta strutturata di eseguire una funzione che hai definito, con degli argomenti. Il tuo codice la esegue e rimanda il risultato, e il modello prosegue a partire da quel risultato.
Un chatbot risponde ai messaggi. Un agente può chiamare strumenti in un ciclo, decidendo il passo successivo da ogni risultato, finché non raggiunge un obiettivo o una condizione di arresto.
Come funziona il tool calling degli LLM, come scrivere descrizioni che i modelli usano bene, come girano e si fermano i cicli degli agenti e gli errori tipici.
La prompt injection fa seguire all'AI istruzioni dell'attaccante nascoste in input o documenti. Attacchi diretti e indiretti e le difese che funzionano.
Ottenere JSON valido da un LLM richiede più che chiederlo con gentilezza: schemi, output strutturato, validazione e retry, e gli errori più comuni da evitare.
Brevi quiz su vere decisioni di prompting, con una spiegazione per ogni risposta. Gratis per iniziare su iPhone e Android.