- Le 16 octobre 2026, Gartner a prédit que le coût d’inférence par flux de travail d’un agent IA augmenterait de plus de cinq fois d’ici 2028, malgré la baisse continue des coûts de génération des tokens.
- Gartner appelle ce phénomène le « paradoxe de l’inférence » (Inference Paradox) : l’efficacité informatique progresse, mais les entreprises utilisent des modèles plus puissants qui consomment davantage de tokens.
- Selon Gartner, les agents IA consomment entre 5 et 30 fois plus de tokens que les chatbots de base pour accomplir la même tâche. Les coûts d’inférence des fournisseurs augmentent également d’au moins cinq fois lors du passage à des modèles d’agents dotés de capacités de raisonnement.
- La principale raison est que les entreprises d’IA continuent d’investir dans des modèles avancés nécessitant davantage de puissance de calcul, tandis que les organisations étendent l’utilisation de l’IA à des flux de travail plus complexes.
- Gartner prévoit que les coûts fluctueront par vagues au gré du lancement de nouvelles technologies, plutôt que d’augmenter de manière régulière.
- Une enquête de VentureBeat menée auprès de 109 participants révèle que 21 % des entreprises utilisant des plateformes d’orchestration d’agents ne disposent pas encore de mécanismes automatiques pour plafonner les coûts des tokens.
- Par ailleurs, 31 % transfèrent les tâches fréquentes et à fort volume vers des modèles moins coûteux afin de maîtriser leur budget.
- Gartner recommande de renforcer le suivi des dépenses grâce à l’AI FinOps et de mesurer les coûts en fonction des résultats de chaque tâche.
- Les entreprises doivent acheminer automatiquement les tâches vers les modèles appropriés et éviter d’utiliser des modèles coûteux pour des tâches simples.
- Parmi les autres mesures figurent la définition de seuils d’efficacité, les tests des risques liés aux coûts et l’exploitation de données propriétaires pour développer des modèles spécialisés.
📌 Gartner avertit que les coûts des agents IA ne diminueront pas au même rythme que les prix des tokens. D’ici 2028, le coût d’inférence par flux de travail pourrait être multiplié par plus de cinq, car les agents consomment davantage de tokens et utilisent des modèles plus complexes. Gartner recommande de passer de la gestion du prix des tokens à celle du coût par résultat, en combinant le suivi de la consommation, l’orientation vers les modèles adaptés et l’évaluation de la rentabilité économique avant tout déploiement à grande échelle.
