Reuters, citando il rapporto di threat intelligence di Anthropic, ha dichiarato che Claude è stato sfruttato da varie organizzazioni e individui in attività relative allo sviluppo di armi, attacchi informatici, sorveglianza e frode prima che gli account venissero rilevati e gestiti.
Anthropic ha accusato alcuni attori in Cina di aver utilizzato Claude per sviluppare software di guerra elettronica, simulare il disturbo radar e pianificare la soppressione delle difese aeree, inclusa la simulazione di 12 obiettivi a Taiwan come radar di allarme precoce, siti missilistici Patriot e Sky Bow, basi aeree e bunker di comando.
Un altro gruppo avrebbe utilizzato Claude per redigere una proposta tecnica di oltre 200 pagine per il sistema antisiluro della marina cinese e confrontarla con la tecnologia della US Navy.
Il rapporto descrive anche l’uso di Claude per la ricerca su armi a microonde ad alta potenza, il tracciamento delle catene di approvvigionamento dei componenti e la preparazione di rapporti per le agenzie cinesi.
Nello Yemen, Anthropic ha scoperto un gruppo che utilizzava Claude per programmare, simulare e correggere errori per missili guidati, missili balistici con una gittata superiore a 2.000 km e una variante che utilizza un veicolo a planata ipersonica. La società ha dichiarato che molte richieste sono state bloccate e non ci sono prove che queste armi siano state effettivamente dispiegate.
Alcuni attori in Russia sono stati accusati di aver utilizzato Claude per sviluppare software di controllo per sciami di droni FPV autonomi e di aver tentato di acquistare componenti a duplice uso tramite intermediari in Cina e Hong Kong per eludere le sanzioni.
Anthropic ha registrato numerosi tentativi di utilizzare Claude per supportare la ricerca biologica correlata al virus chikungunya, all’influenza aviaria ad alta patogenicità, agli ortopossivirus e a nuove tossine, affermando che tali attività si sono svolte in regioni in cui i suoi servizi non sono forniti.
Nel settore della sicurezza informatica, la società ha dichiarato che Claude è stato utilizzato per trovare vulnerabilità software, sviluppare codice di exploit e assistere nell’infiltrazione nelle reti di circa 50 organizzazioni, comprese agenzie governative straniere.
Il rapporto ha anche dettagliato l’uso di Claude in operazioni di raccolta di informazioni, sorveglianza di uiguri, tibetani, attivisti, organizzazioni ebraiche e forze navali statunitensi, nonché per la costruzione di piattaforme di monitoraggio dei social media e di un sistema di tracciamento per circa 25 milioni di schede SIM in Mali.
Anthropic ha anche scoperto una campagna in Cina che ha sviluppato oltre 20 app di incontri con più di 4.700 personaggi di IA interattivi rivolti ad almeno 25.000 utenti per facilitare attività di frode.
📌 Il rapporto di Anthropic mostra che l’IA generativa viene sempre più sfruttata per vari scopi di sicurezza e militari, dallo sviluppo di armi e la ricerca biologica agli attacchi informatici, alla sorveglianza e alla frode. Si tratta di accuse e valutazioni formulate da Anthropic sulla base di attività di rilevamento all’interno dei propri sistemi; alcuni dei governi e delle organizzazioni coinvolti hanno smentito o non hanno ancora risposto. Il contenuto sottolinea la necessità di rafforzare la supervisione sull’uso di modelli di IA avanzati per limitare il rischio di usi impropri.
