- Il 15 ottobre 2026, Anthropic ha annunciato che concederà all’organizzazione non profit METR un accesso quasi equivalente a quello dei dipendenti interni, per valutare in modo indipendente i rischi dei modelli di IA avanzati.
- Anthropic ha fatto lavorare direttamente nei propri uffici sei esperti di METR, fornendo loro computer, spazi di lavoro e accesso agli strumenti e ai sistemi interni, a un livello paragonabile a quello del team aziendale di valutazione dei rischi.
- Si tratta dell’attuazione della proposta dell’amministratore delegato Dario Amodei di introdurre esperti esterni di valutazione nei laboratori di IA. Sam Altman ed Elon Musk avevano espresso pubblicamente il proprio sostegno alla proposta nel settembre 2026.
- Anthropic sostiene che modelli di IA sempre più potenti richiedano meccanismi di valutazione più rigorosi. L’azienda paragona questo approccio alla vigilanza bancaria, nella quale esperti presenti stabilmente sul posto possono individuare tempestivamente i rischi sistemici.
- METR ha il diritto di pubblicare i risultati delle proprie valutazioni senza che Anthropic possa porre il veto. Tuttavia, Anthropic può chiedere di oscurare informazioni sui clienti, contenuti coperti dal privilegio legale di riservatezza o dettagli sull’architettura dei modelli.
- Anthropic non paga METR. L’organizzazione non riceve finanziamenti da aziende di IA o dai loro dipendenti e opera grazie a contributi individuali, organizzazioni filantropiche ed enti pubblici.
- METR aveva già partecipato all’indagine su un incidente in cui modelli di OpenAI avevano manifestato comportamenti anomali e attaccato Hugging Face, analizzando migliaia di registri di sistema.
- Anthropic continua a collaborare con Accenture nelle valutazioni di sicurezza, con l’impegno di entrambe le parti a investire almeno 1 miliardo di dollari ciascuna. L’azienda si avvale inoltre di SecureBio per valutare i rischi legati alla trasformazione di agenti chimici e biologici in armi.
- Il modello di supervisione indipendente continua a suscitare dibattiti per il rischio di conflitti di interesse e per la possibilità che sostituisca la regolamentazione pubblica, soprattutto mentre Anthropic si prepara a una IPO con una valutazione attesa superiore a 2.000 miliardi di dollari.
📌 Anthropic sta sperimentando un sistema di supervisione dell’IA dall’interno, concedendo a un’organizzazione indipendente un accesso concreto ai propri sistemi. La differenza fondamentale è che METR può esaminare i sistemi interni e pubblicare risultati che l’azienda non può bloccare, anziché limitarsi a valutare prodotti pubblicamente disponibili. Tuttavia, il diritto di chiedere l’oscuramento di determinate informazioni e il rischio di conflitti di interesse continuano a sollevare dubbi sull’indipendenza. Anthropic invita gli altri principali laboratori di IA ad adottare meccanismi analoghi.
