Modelli di reasoning: cosa sono e quando servono davvero

Da qualche tempo i principali fornitori affiancano ai modelli tradizionali una categoria diversa: modelli che "pensano" prima di rispondere, impiegano più tempo e costano parecchio di più. Sono i modelli di reasoning. In questo articolo ti spiego cosa fanno davvero di diverso, quando valgono la spesa e — soprattutto — quando usarli è solo uno spreco.

Cosa sono

Un modello di reasoning genera, prima della risposta vera e propria, una lunga sequenza di ragionamento interno in cui scompone il problema, prova strade diverse e verifica i passaggi. Solo dopo produce la risposta finale.

La differenza con un modello tradizionale è quanta elaborazione avviene prima dell'output. Un modello normale inizia a rispondere quasi subito; un modello di reasoning può generare migliaia di token di ragionamento che non vedi, e solo dopo scrivere due righe di risposta.

Come funziona

Per capire perché questo aiuta, torna utile il meccanismo di base descritto in cos'è un Transformer: il modello genera un token alla volta, e ogni token viene prodotto rileggendo tutto quello che c'è prima.

La conseguenza è che il "pensiero" di un modello linguistico coincide con il testo che produce. Non ha uno spazio separato in cui elaborare: se deve fare un ragionamento in più passaggi, deve scriverlo.

Da qui l'intuizione: se lo lasci scrivere molto prima di rispondere, ha più passaggi intermedi su cui appoggiarsi. Ogni pezzo di ragionamento diventa contesto per il successivo.

Rispetto al vecchio trucco di scrivere "ragiona passo passo" nel prompt, i modelli di reasoning sono addestrati specificamente a farlo bene: a esplorare più strade, accorgersi di un errore e tornare indietro, verificare un risultato prima di darlo per buono.

Quel ragionamento consuma token e li paghi, anche quando non ti viene mostrato integralmente. È il motivo del costo più alto.

Dove fanno davvero la differenza

Il vantaggio non è uniforme: è enorme in alcuni ambiti e nullo in altri.

Funzionano molto meglio su:

• Matematica e problemi numerici in più passaggi — è l'ambito in cui il divario è più netto
• Logica e vincoli — pianificazioni, incastri, problemi con condizioni multiple da rispettare insieme
• Debug di problemi non ovvi, dove la causa è a distanza dall'effetto
• Codice complesso con molte parti che devono combaciare
• Analisi che richiedono di tenere insieme più elementi e confrontarli sistematicamente
• Domande dove la risposta plausibile è spesso sbagliata, e serve verifica

Non fanno differenza su:

• Scrivere o riscrivere testi
• Riassumere, tradurre, riformulare
• Domande di conoscenza diretta
• Estrazione di dati da un documento
• Conversazione e supporto
• Classificazione e compiti ripetitivi

Il criterio pratico è questo: il reasoning aiuta quando il problema ha una risposta verificabile e richiede più passaggi per arrivarci. Se il compito è linguistico più che logico, un modello normale fa lo stesso lavoro più in fretta e a molto meno.

Il costo reale

Va guardato bene, perché è la parte che sorprende.

Il prezzo per token è più alto, ma il moltiplicatore vero è un altro: il numero di token generati. Su un problema difficile, un modello di reasoning può produrre migliaia di token di ragionamento per una risposta di poche righe. Paghi tutto.

Il conto complessivo di una singola richiesta può essere di un ordine di grandezza superiore a quello di un modello standard. E c'è anche la latenza: la risposta può richiedere decine di secondi, il che li rende inadatti a qualunque cosa debba essere interattiva.

Su questo vale tutto quello che ho scritto in come spendere meno token con l'AI, amplificato.

Come usarli bene

Usali per il pezzo difficile, non per tutto. L'approccio più sensato è misto: modello normale per il grosso del lavoro, modello di reasoning solo sul nodo che richiede ragionamento vero. Su un flusso automatizzato questo cambia completamente il costo mensile.

Non riempire il prompt di istruzioni su come ragionare. È l'errore più comune di chi arriva dal prompt engineering classico: "pensa passo passo", "considera tutte le alternative", lunghe strutture di ragionamento imposte. Con questi modelli è spesso controproducente — sanno già farlo, e le istruzioni li vincolano. Dai il problema, i dati, e il criterio di successo.

Dai tutti i vincoli in partenza. È dove rendono meglio: un problema con dieci condizioni da rispettare simultaneamente è esattamente il loro terreno.

Non aspettarti verità garantita. Ragionare più a lungo riduce gli errori di ragionamento, non quelli di conoscenza. Un fatto sbagliato resta sbagliato, elaborato meglio. Le allucinazioni non spariscono.

Il ragionamento mostrato non è una spiegazione affidabile. Quello che vedi (dove viene mostrato) è una traccia del processo, non necessariamente il resoconto fedele di come è arrivato alla conclusione. Trattarlo come una giustificazione verificabile è un errore.

Come scegliere, in pratica

Se il compito è	Usa
Scrittura, sintesi, traduzione	Modello standard
Conversazione, assistenza	Modello standard
Estrazione dati, classificazione	Modello standard (o piccolo)
Codice ordinario	Modello standard
Matematica, logica, vincoli	Reasoning
Debug difficile, architettura	Reasoning
Analisi con molti elementi da incrociare	Reasoning

Il metodo che consiglierei: prova prima con un modello standard. Se la risposta è giusta, hai finito e hai speso poco. Passa al reasoning quando il modello normale sbaglia in modo sistematico su un certo tipo di problema — non per default, "così sono sicuro".

Vale la pena aggiungere che la distinzione si sta assottigliando: diversi modelli recenti permettono di regolare quanto ragionamento applicare, invece di essere l'uno o l'altro. La direzione è verso un unico modello con uno sforzo modulabile.

In sintesi

I modelli di reasoning generano una lunga catena di ragionamento prima di rispondere, e sono addestrati a esplorare, verificare e correggersi. Il vantaggio è concreto su matematica, logica, vincoli multipli e problemi difficili di codice.

Su scrittura, sintesi, traduzione e conversazione non danno alcun beneficio, e costano molto di più — sia in denaro che in attesa.

Il criterio è uno: il problema ha una risposta verificabile e richiede più passaggi? Se sì, valgono la spesa. Se il compito è linguistico, un modello normale fa lo stesso lavoro meglio e prima.

E la regola di prompt che vale la pena ricordare, perché è controintuitiva: con questi modelli si scrive meno, non di più. Dai il problema e i vincoli, non le istruzioni su come pensare.