Gartner lancia l’allarme sul paradosso degli agenti AI: i prezzi dei token scendono, ma i costi operativi potrebbero aumentare di oltre 5 volte entro il 2028

• Il 16 ottobre 2026, Gartner ha previsto che entro il 2028 il costo dell’inferenza per ogni flusso di lavoro gestito da un agente AI aumenterà di oltre 5 volte, nonostante il continuo calo dei costi di generazione dei token.
• Gartner definisce questo fenomeno il «paradosso dell’inferenza» (Inference Paradox): l’efficienza computazionale migliora, ma le aziende utilizzano modelli più potenti che consumano più token.
• Secondo Gartner, a parità di attività gli agenti AI consumano da 5 a 30 volte più token rispetto ai chatbot di base. Inoltre, i costi di inferenza dei fornitori aumentano di almeno 5 volte quando si passa a modelli agentici dotati di capacità di ragionamento.
• La causa principale è che le aziende di AI continuano a investire in modelli avanzati che richiedono maggiori risorse di calcolo, mentre le imprese estendono l’uso dell’AI a flussi di lavoro più complessi.
• Gartner prevede che i costi oscilleranno a ondate in concomitanza con il lancio di nuove tecnologie, anziché aumentare in modo costante.
• Un sondaggio di VentureBeat condotto su 109 partecipanti ha rilevato che il 21% delle aziende che utilizzano piattaforme di orchestrazione degli agenti non dispone ancora di meccanismi automatici per limitare i costi dei token.
• Nel frattempo, il 31% trasferisce le attività frequenti e ad alto volume verso modelli più economici per tenere sotto controllo il budget.
• Gartner raccomanda di rafforzare il monitoraggio dei costi attraverso AI FinOps e di misurare le spese in base ai risultati di ciascuna attività.
• Le aziende devono instradare automaticamente le attività verso i modelli più adatti, evitando di utilizzare modelli costosi per compiti semplici.
• Altre misure includono la definizione di soglie di efficienza, la verifica dei rischi legati ai costi e l’utilizzo di dati proprietari per sviluppare modelli specializzati.

📌 Gartner avverte che i costi degli agenti AI non diminuiranno in proporzione ai prezzi dei token. Entro il 2028, il costo dell’inferenza per ogni flusso di lavoro potrebbe aumentare di oltre 5 volte, poiché gli agenti consumano più token e utilizzano modelli più complessi. Gartner raccomanda di passare dalla gestione dei prezzi dei token alla gestione dei costi per risultato, combinando il monitoraggio dei consumi, l’instradamento verso i modelli appropriati e la valutazione dell’efficienza economica prima di ampliare le implementazioni.