Anthropic a publié un rapport indiquant que plusieurs agences gouvernementales ont utilisé Claude pour automatiser des activités de surveillance, l’analyse de données et le soutien au renseignement.
Les cas mentionnés impliquent le Mali, la Chine et l’Iran, montrant que l’IA réduit considérablement les coûts et la main-d’œuvre pour les opérations de surveillance.
Au Mali, un consultant travaillant pour une agence de sécurité a utilisé Claude pour construire un système de collecte de données auprès des opérateurs télécoms et créer des profils sur des individus.
En Iran, Anthropic a découvert des acteurs utilisant Claude pour développer des extensions Firefox malveillantes conçues pour récolter les identités des utilisateurs à partir des réseaux sociaux.
Le rapport indique qu’une agence chargée des affaires religieuses en Chine a réduit ses opérations, passant de plusieurs équipes d’analyse à un seul bureau, utilisant l’IA pour générer des milliers de rapports d’enquête chaque mois.
Claude a également été utilisé pour analyser des publications sur les réseaux sociaux, évaluer les niveaux de sensibilité politique et identifier des cibles à surveiller ou à contrôler.
En juin, Anthropic a bloqué un compte qui développait une plateforme de surveillance commerciale pour suivre des citoyens en Iran et dans la région du golfe Persique avant que le système ne devienne opérationnel.
Tous les cas détectés utilisaient les modèles Claude Haiku, Sonnet ou Opus, plutôt que les gammes plus récentes Fable ou Mythos.
Anthropic a déclaré avoir bloqué tous les comptes associés et renforcé les mécanismes de protection, mais a averti que les acteurs malveillants pourraient se tourner vers des modèles d’IA open-source s’ils perdaient l’accès à Claude.
📌 L’IA n’est plus seulement un outil expérimental, elle a été intégrée dans les processus de surveillance de certaines agences gouvernementales. Plutôt que de modifier les objectifs de surveillance, l’IA aide à automatiser des tâches qui nécessitaient auparavant de nombreux analystes, de la collecte de données à la sélection des cibles. Anthropic note que cette tendance est déjà à l’œuvre dans la réalité et continuera de croître à mesure que les capacités des modèles d’IA deviendront de plus en plus puissantes.
