Chain-of-thought prompting: funziona ancora?
Il chain-of-thought prompting fa ragionare il modello passo per passo prima di rispondere. Quando aiuta e quando i modelli di ragionamento lo rendono superfluo.
Reasoning
I prompt di ragionamento chiedono al modello di affrontare un problema passo dopo passo prima di dare la risposta finale, un approccio noto come chain-of-thought prompting. Aiuta con matematica a più passaggi, logica e pianificazione, e conta meno per le semplici ricerche. I moderni modelli di ragionamento pensano già internamente, quindi oggi l'abilità sta nel decidere quando chiedere un ragionamento visibile e come tenerlo separato dalla risposta finale.
Your app parses the model’s JSON, but sometimes the reply starts with “Sure! Here is the JSON:”. What is the most robust fix?
Ti serve il ragionamento del modello per il debug, ma nella tua app solo il numero finale. Quale struttura di prompt è la più adatta?
B. Chiedere il ragionamento dentro i tag <thinking>, poi la risposta dentro i tag <answer> Il ragionamento scritto prima della risposta può migliorarla, e i tag permettono al tuo codice di estrarre solo la risposta finale mentre conservi il ragionamento nei log.
Il chain-of-thought prompting chiede al modello di scrivere i passaggi intermedi del ragionamento prima della risposta finale. È stato reso popolare da Wei et al. (2022) e aiuta soprattutto nei problemi a più passaggi.
Con i modelli di ragionamento spesso non serve. Con altri modelli può ancora aiutare nei compiti a più passaggi, soprattutto se chiedi il ragionamento prima della risposta e in una sezione separata.
Il chain-of-thought prompting fa ragionare il modello passo per passo prima di rispondere. Quando aiuta e quando i modelli di ragionamento lo rendono superfluo.
Il modo migliore per imparare il prompt engineering: un percorso in 8 passi dalle basi agli agenti, le guide gratuite dei vendor e un esercizio per ogni passo.
Il prompt engineering è l'abilità di scrivere input che danno risultati affidabili con i modelli AI. Scopri le parti di un buon prompt, con esempi prima e dopo.
Brevi quiz su vere decisioni di prompting, con una spiegazione per ogni risposta. Gratis per iniziare su iPhone e Android.