L’articolo mostra che le aziende stanno rapidamente implementando i router di modelli IA (AI model router), software che seleziona automaticamente il modello IA più adatto per ogni attività al fine di ridurre i costi operativi degli agenti IA.
A differenza dei normali chatbot, agenti come Claude Code e Codex possono operare ininterrottamente per ore,chiamando ripetutamente i modelli IA e consumando enormi quantità di token, cogliendo molte aziende di sorpresa con fatture di calcolo molto elevate.
Un sondaggio mostra che il 62% delle organizzazioni ha dovuto modificare le proprie decisioni aziendali a causa di spese impreviste per l’IA. Di queste, il 40% ha dovuto riferire al consiglio di amministrazione, il 33% ha imposto un blocco di emergenza della spesa e il 25% ha ritardato o cancellato progetti di IA.
I router di modelli IA aiutano le aziende a scegliere il modello ottimale per costi, velocità e prestazioni per ogni fase del flusso di lavoro, anziché utilizzare sempre il modello IA più potente.
Secondo i fornitori di soluzioni, il routing intelligente può ridurre i costi di inferenza in doppia cifra, in alcuni casi fino a circa il 30%.
Molte aziende stanno entrando in questo mercato. OpenRouter fornisce un gateway unificato a centinaia di modelli IA ed è in trattative per essere acquisita da Stripe con una valutazione fino a 10 miliardi di dollari. Not Diamond seleziona automaticamente il modello giusto per ogni richiesta, mentre LiteLLM aiuta le aziende a costruire i propri sistemi di routing. Anche Salesforce, Databricks, Meta, Cursor, Ramp e Runway stanno sviluppando soluzioni simili.
Secondo OpenRouter, molte aziende in precedenza non stanziavano un budget specifico per l’IA perché presumevano che usare il modello più potente fosse sempre la scelta migliore. Tuttavia, molte attività hanno raggiunto uno stato di “saturazione dell’intelligenza”, il che significa che l’uso di un modello più recente e potente non offre risultati migliori rispetto a modelli più vecchi ma più economici.
L’articolo suggerisce inoltre che in futuro i router di modelli IA non si limiteranno a ottimizzare i costi, ma determineranno quale modello viene utilizzato, a quali dati gli agenti possono accedere, quando utilizzare modelli open-source perfezionati e come soddisfare i requisiti di sicurezza, conformità e governance.
Oltre ai fattori di costo, le precedenti restrizioni di Anthropic sull’accesso al modello Fable hanno spinto molte aziende a voler ridurre la dipendenza da un unico fornitore di IA. I router di modelli IA sono visti come uno strumento che aiuta le aziende a passare in modo flessibile tra i diversi modelli quando necessario.
Gli esperti notano che costruire un router di modelli IA non significa solo connettere più API, ma richiede anche il tracciamento di migliaia di endpoint di modelli, la gestione degli incidenti, l’aggiornamento delle modifiche tecniche e il mantenimento di relazioni strette con i fornitori di IA.
📌 I router di modelli IA stanno emergendo come un nuovo livello di infrastruttura aziendale nell’era degli agenti IA.Poiché gli agenti consumano quantità di token sempre maggiori, la selezione automatica del modello appropriato può aiutare a ridurre i costi fino a circa il 30%, aumentando al contempo la flessibilità di fronte ai cambiamenti di permessi di accesso, sicurezza e prestazioni. Nella fase successiva, i router di modelli IA diventeranno probabilmente il “cervello di orchestrazione” che decide non solo quale modello viene utilizzato, ma anche come le aziende gestiscono l’intero ecosistema di IA.
