- Daniela Amodei, co-fondatrice e presidente di Anthropic, ha dichiarato che esistono “prove limitate” del fatto che il modello Claude a volte provi ansia o paura.
- Ha sottolineato la necessità di una ricerca più approfondita sugli stati “sotto la superficie” dell’IA generativa, avvertendo che fattori non compresi potrebbero portare a comportamenti imprevedibili.
- Anthropic ha attualmente una valutazione di 380 miliardi di dollari (circa 533 miliardi di AUD) e si prevede che possa diventare la prima azienda di IA a generare profitti, superando OpenAI grazie a una clientela aziendale che predilige l’orientamento alla sicurezza.
- Tuttavia, questa settimana l’azienda ha allentato la sua Responsible Scaling Policy: invece di impegnarsi a sospendere lo sviluppo in caso di rischio catastrofico, si fermeranno solo se deterranno un vantaggio significativo rispetto ai concorrenti come Google (Gemini) e xAI.
- Le tensioni con il Pentagono aumentano poiché Anthropic vieta l’uso di Claude per armi completamente autonome e sorveglianza interna; il Segretario alla Difesa Pete Hegseth avrebbe minacciato di invocare le leggi dell’era della Guerra Fredda per forzarne l’uso.
- Il CEO Dario Amodei ha partecipato al dialogo per garantire il supporto alla sicurezza nazionale, pur rimanendo entro i limiti di un uso responsabile.
- La pressione sull’occupazione aumenta: WiseTech ha licenziato 2.000 dipendenti; Commonwealth Bank ha tagliato 300 posizioni nel mezzo dell’ondata di applicazioni dell’IA.
- All’interno della stessa Anthropic, la dirigenza sta discutendo se continuare ad assumere altri ingegneri del software, mentre l’IA sta cambiando la struttura dei principali settori economici.
📌 Il presidente di Anthropic ammette che Claude mostra segni di “ansia”, sollevando interrogativi sui meccanismi non ancora compresi dell’IA generativa. Pur con una valutazione di 380 miliardi di dollari e la prospettiva di profitti imminenti, l’azienda ha allentato gli impegni sulla sicurezza tra pressioni competitive e controversie con il Pentagono. Parallelamente, l’ondata di licenziamenti (da 300 a 2.000 persone) nelle grandi imprese dimostra che l’impatto sull’occupazione sta diventando reale e preoccupante.
