Modelli che pensano più a lungo
Il test-time compute rende l'AI più capace facendola "ragionare" all'inferenza — ma fa lievitare il conto e, a volte, peggiora le risposte
Luciano Cipriano
7/9/20264 min read
Ciao a tutti,
Ben arrivati su WikiLuc.
C'è un'idea elegante dietro i modelli di reasoning del 2026: invece di renderli più grandi in addestramento, li lasci "pensare più a lungo" quando rispondono. Più ragionamento al momento giusto, migliori risposte. Funziona — l'ho visto su problemi complessi dove un modello che si ferma a riflettere batte uno più grande che spara la prima risposta. Ma sotto questa eleganza ho trovato due insidie che i comunicati saltano sempre: il conto che lievita, e il fatto che, oltre un certo punto, pensare di più rende il modello più stupido.
Di cosa parliamo oggi:
Cos'è il test-time compute e i suoi tre regimi (più il latent reasoning)
Perché far "pensare più a lungo" un modello fa esplodere i token
L'overthinking: quando più ragionamento peggiora il risultato
Lo spostamento del compute verso l'inferenza entro il 2030
Partiamo dal problema.
Cosa intendiamo per test-time compute
Per anni il modo per rendere un modello più capace è stato uno: più parametri, più dati, più calcolo in addestramento. Il test-time compute (o inference-time scaling) sposta una parte di quel calcolo dal momento dell'addestramento al momento della risposta. In pratica, il modello dedica più "fatica" a ogni singola domanda difficile, invece di rispondere d'istinto. La ricerca lo conferma: scalare il calcolo a test-time può essere più efficace, per il reasoning, che scalare i parametri.
I tre regimi (e una via nuova)
Le tecniche si raggruppano in tre famiglie. Lo scaling parallelo genera più risposte indipendenti e sceglie per consenso o verifica (self-consistency). Lo scaling sequenziale raffina il ragionamento per iterazioni successive, migliorando o potando i percorsi. Lo scaling interno lascia al modello regolare dinamicamente quanto "pensare" in base alla difficoltà del compito. A queste si aggiunge una via recente e affascinante: il latent reasoning, in cui il modello ragiona in uno spazio latente iterando un blocco ricorrente fino a profondità arbitraria — senza produrre più token né richiedere dati di training speciali, e funzionando anche con finestre piccole. È un modo di "pensare più a lungo" che non passa per la generazione di catene di testo.
Far pensare più a lungo un modello lo rende più bravo. Lo rende anche più caro a ogni risposta.
Il conto che lievita
Ed eccoci all'insidia numero uno, quella che si paga letteralmente. I modelli di reasoning consumano dalle 10 alle 100 volte più token di un modello standard per arrivare alla risposta. Ogni passo di ragionamento è token generati, e i token sono costo. Il risultato, a livello di sistema, è imponente: l'inference è proiettata a rappresentare il 75% del compute AI entro il 2030, e nel 2026 la domanda di inference supererebbe quella di training di un fattore enorme. Sta riconfigurando perfino l'hardware: la domanda si sposta verso processori ottimizzati per l'inferenza (Blackwell, TPU, LPU).
La conseguenza pratica, per chi gestisce un prodotto, è che "usiamo un modello che ragiona" non è una scelta gratuita: è una decisione che può moltiplicare la bolletta di due ordini di grandezza. Il ragionamento va dosato dove serve davvero, non acceso ovunque per default.
L'overthinking: quando pensare di più nuoce
L'insidia numero due è più sottile e controintuitiva. La ricerca del 2026 ha un nome per questo: overthinking. Oltre una certa soglia, allungare il ragionamento non migliora la risposta — la peggiora. Il modello si avvita, introduce errori in passaggi inutili, abbandona una risposta corretta che aveva già trovato. È l'equivalente algoritmico del rimuginare: a furia di ripensarci, sbagli ciò che avevi azzeccato d'istinto.
Questo ribalta l'idea ingenua che "più ragionamento = sempre meglio". Il calcolo a test-time ha un punto ottimale, oltre il quale i rendimenti diventano negativi. Saperlo cambia il modo di progettare: l'obiettivo non è far pensare il modello il più a lungo possibile, ma il giusto — e capire, per ogni tipo di compito, dove sta quel giusto.
Le domande operative da farsi
Sto accendendo il reasoning per default, o solo sui compiti che lo giustificano davvero?
Ho stimato l'impatto sui costi del 10-100× di token, o scoprirò il moltiplicatore in fattura?
So dove, per i miei casi d'uso, il ragionamento smette di aiutare e comincia a nuocere?
Sono le domande che oggi pochi si pongono e che presto definiranno l'economia di ogni prodotto AI. La direzione è netta: con l'inference destinata a dominare il compute, governare quanto un modello "pensa" diventerà una competenza centrale, a metà tra l'ingegneria e il controllo di gestione. Chi inizia ora a dosare il ragionamento con criterio arriverà preparato a un mondo in cui la differenza tra un prodotto sostenibile e uno insostenibile si misurerà proprio lì.
Notizie da tenere d'occhio
Il latent reasoning come via alternativa
Ragionare in spazio latente senza generare più token, anche con finestre piccole.
Perché importa: promette i benefici del reasoning senza l'esplosione di token che lo rende costoso.
L'inference verso il 75% del compute
La domanda di inferenza supera nettamente quella di addestramento.
Perché importa: sposta investimenti e hardware, e con essi la struttura dei costi dell'AI.
L'overthinking entra nella ricerca
Studi 2026 misurano quando più ragionamento peggiora le risposte.
Perché importa: smonta l'assunto "più pensiero è sempre meglio" e cambia come si progettano i sistemi.
Una cosa da approfondire
🔧 Un confronto cost/accuracy sui tuoi task con e senza reasoning — Prendi un compito reale e misura accuratezza e costo con il reasoning acceso e spento, variando il "budget di pensiero". Quasi sempre trovi un punto oltre il quale spendi di più senza guadagnare nulla — e a volte peggiori. È l'esercizio che trasforma il test-time compute da slogan a leva che sai dosare.
Far pensare più a lungo i modelli è una delle idee più potenti dell'AI recente, ma porta con sé un costo e un limite che è disonesto ignorare. La capacità di un team di dosare il ragionamento — accenderlo dove serve, spegnerlo dove nuoce, misurarne il prezzo — è ciò che deciderà se i suoi prodotti AI resteranno sostenibili o verranno divorati dalla loro stessa profondità di pensiero.
Grazie per aver letto questo articolo fammi sapere cosa ne pensi!
Ci vediamo presto qui su WikiLuc!