Reuters, citant le rapport de renseignement sur les menaces d’Anthropic, a déclaré que Claude a été exploité par diverses organisations et individus dans des activités liées au développement d’armes, aux cyberattaques, à la surveillance et à la fraude avant que les comptes ne soient détectés et traités.
Anthropic a accusé certains acteurs en Chine d’avoir utilisé Claude pour développer des logiciels de guerre électronique, simuler le brouillage radar et planifier la suppression des défenses aériennes, y compris la simulation de 12 cibles à Taiwan telles que des radars d’alerte précoce, des sites de missiles Patriot et Sky Bow, des bases aériennes et des bunkers de commandement.
Un autre groupe aurait utilisé Claude pour rédiger une proposition technique de plus de 200 pages pour le système anti-torpilles de la marine chinoise et la comparer avec la technologie de l’US Navy.
Le rapport décrit également l’utilisation de Claude pour rechercher des armes à micro-ondes de haute puissance, tracer les chaînes d’approvisionnement en composants et préparer des rapports pour des agences chinoises.
Au Yémen, Anthropic a découvert un groupe utilisant Claude pour programmer, simuler et résoudre des bogues pour des missiles guidés, des missiles balistiques d’une portée supérieure à 2 000 km et une variante utilisant un planeur hypersonique. L’entreprise a déclaré que de nombreuses demandes avaient été bloquées et qu’il n’y avait aucune preuve que ces armes aient été déployées en pratique.
Certains acteurs en Russie ont été accusés d’avoir utilisé Claude pour développer des logiciels de contrôle pour des essaims de drones FPV autonomes et d’avoir tenté d’acheter des composants à double usage par l’intermédiaire d’intermédiaires en Chine et à Hong Kong pour contourner les sanctions.
Anthropic a enregistré de nombreuses tentatives d’utilisation de Claude pour soutenir la recherche biologique liée au virus du chikungunya, à la grippe aviaire hautement pathogène, aux orthopoxvirus et à de nouvelles toxines, tout en précisant que ces activités ont eu lieu dans des régions où ses services ne sont pas fournis.
Dans le domaine de la cybersécurité, l’entreprise a déclaré que Claude avait été utilisé pour trouver des vulnérabilités logicielles, développer du code d’exploitation et aider à s’infiltrer dans les réseaux d’environ 50 organisations, y compris des agences gouvernementales étrangères.
Le rapport détaille également l’utilisation de Claude dans des opérations de collecte de renseignements, de surveillance des Ouïghours, des Tibétains, des militants, des organisations juives et des forces navales américaines, ainsi que pour la construction de plateformes de surveillance des réseaux sociaux et d’un système de suivi d’environ 25 millions de cartes SIM au Mali.
Anthropic a également découvert une campagne en Chine développant plus de 20 applications de rencontres dotées de plus de 4 700 personnalités d’IA interactives ciblant au moins 25 000 utilisateurs afin de faciliter des opérations de fraude.
📌 Le rapport d’Anthropic montre que l’IA générative est de plus en plus exploitée à des fins de sécurité et militaires, allant du développement d’armes et de la recherche biologique aux cyberattaques, en passant par la surveillance et la fraude. Il s’agit d’allégations et d’évaluations formulées par Anthropic sur la base d’activités de détection au sein de ses propres systèmes ; certains gouvernements et organisations concernés ont rejeté ces accusations ou n’ont pas encore répondu. Le contenu souligne la nécessité de renforcer la surveillance de l’utilisation des modèles d’IA avancés pour limiter les risques de mauvaise utilisation.
