Che cos'è la Chain of Thought
La Chain of Thought (CoT), o catena di ragionamento, è una sequenza di passaggi intermedi generati da un modello linguistico prima della risposta finale. Nel prompting, il termine indica una tecnica che presenta esempi di problemi accompagnati dai relativi passaggi risolutivi, oppure invita il modello a scomporre il compito.
Il lavoro di Wei e colleghi del 2022 ha studiato il CoT prompting su problemi aritmetici, simbolici e di senso comune. I risultati mostrano miglioramenti in determinati modelli e condizioni, non una garanzia universale di accuratezza. La CoT non aggiunge automaticamente dati corretti o fonti affidabili a una risposta.
Come funziona: un esempio corretto
Un magazzino contiene 100 pezzi. Ne spedisce 23 al mattino e 47 al pomeriggio; altri 12 vengono scartati. Quanti pezzi utilizzabili rimangono?
- Pezzi spediti: 23 + 47 = 70.
- Pezzi rimasti prima degli scarti: 100 − 70 = 30.
- Pezzi utilizzabili: 30 − 12 = 18.
I passaggi espliciti rendono controllabili i dati e le operazioni. Non dimostrano però che un modello risponderà sempre meglio: potrebbe leggere male una quantità o eseguire un calcolo errato. Nell'esempio il risultato è verificabile anche con una semplice espressione, 100 - 23 - 47 - 12. Per calcoli importanti è preferibile affiancare uno strumento deterministico.
CoT, esempi e modelli di ragionamento
- Few-shot CoT: il prompt contiene esempi risolti con passaggi intermedi.
- Scomposizione del compito: la richiesta distingue dati, vincoli, verifiche e risultato atteso.
- Modelli di ragionamento: possono dedicare calcolo aggiuntivo alla soluzione; ciò non implica che espongano all'utente tutta l'elaborazione interna.
Una formulazione utile per il lavoro quotidiano è: «Indica i dati utilizzati, esplicita le ipotesi e mostra i calcoli verificabili; segnala le informazioni mancanti». L'obiettivo è ottenere elementi controllabili, non pretendere una trascrizione completa del processo interno del modello.
Perché una spiegazione convincente può essere sbagliata
La ricerca di Anthropic sulla fedeltà della CoT distingue la plausibilità di una spiegazione dalla sua corrispondenza al processo che ha determinato la risposta. Un modello può produrre passaggi leggibili che non descrivono fedelmente tutte le influenze sulla conclusione.
Per questo la CoT non equivale alla spiegabilità completa e non elimina le allucinazioni. Una citazione inesistente resta inesistente anche se accompagnata da una spiegazione articolata. La verifica deve riguardare il risultato, le fonti e i vincoli del problema.
Quando è utile e quando è superflua
La scomposizione è utile per confrontare alternative, applicare più condizioni o controllare un procedimento. Per esempio, nella valutazione di un preventivo può separare quantità, prezzi, sconti e costi accessori. Nel supporto tecnico può distinguere sintomi, verifiche effettuate e ipotesi ancora da testare.
Per classificazioni semplici o estrazioni strutturate, una risposta breve con formato preciso può essere più efficiente. Generare molti passaggi aumenta il numero di token, il tempo di risposta e, a seconda del servizio, il costo.
La differenza rispetto a ReAct
La CoT riguarda passaggi di ragionamento generati dal modello. ReAct combina ragionamento e azioni: il sistema usa strumenti, osserva i risultati e aggiorna il percorso. Consultare un database o eseguire un calcolo introduce una verifica esterna; raccontare di averlo fatto non è sufficiente.
Contenuto aggiornato il .