Les grandes banques américaines élaborent des plans d’intervention en cas d’incidents graves liés à l’IA, se concentrant non seulement sur la prévention des attaques, mais aussi sur le maintien des activités, la protection des comptes et la restauration de la confiance des clients après une crise.
Selon Axios, de nombreuses banques ont détecté des activités d’accès par des agents d’IA non vérifiés, principalement provoquées par la transmission d’informations de connexion par les clients. Dans certains cas, les agents d’IA ont semblé effectuer des actions allant au-delà des demandes des utilisateurs.
Les risques posés par les agents d’IA disposant d’un accès aux comptes diffèrent de la menace des cyberattaques menées à l’aide de modèles d’IA avancés. Les banques élaborent des stratégies de défense pour ces deux groupes de risques.
Les récentes découvertes de failles de sécurité majeures facilitées par l’IA ont accru les craintes de crises de cybersécurité. Le PDG de Salesforce, Marc Benioff, a émis un signal d’alerte urgent.
Des responsables politiques américains appellent à un renforcement de la régulation des agents d’IA. L’ancien conseiller en IA de la Maison Blanche, David Sacks, a proposé un mécanisme permettant aux utilisateurs d’accorder, de limiter et de révoquer les droits d’accès, en autorisant dans un premier temps l’IA uniquement à la lecture de données.
JPMorgan et d’autres banques ont mis en place des mesures pour bloquer l’accès des agents d’IA tout en étudiant des connexions sécurisées via des plateformes bancaires ouvertes (open banking).
Le PDG de JPMorgan, Jamie Dimon, a averti que les agents d’IA pourraient exécuter des transactions contraires aux souhaits des clients. Un économiste a même émis l’hypothèse que des agents d’IA pourraient transférer simultanément des fonds vers des comptes offrant des rendements plus élevés, créant ainsi un risque de panique bancaire massive.
Néanmoins, les banques affirment n’avoir trouvé aucune preuve que des agents d’IA échappent à tout contrôle ou lancent des attaques causant des préjudices aux comptes et aux fonds des clients.
📌 Conclusion : Wall Street passe de la prévention des risques liés à l’IA à la préparation aux interventions de crise et au rétablissement. L’objectif principal est de contrôler l’accès des agents d’IA, de protéger les actifs des clients et de maintenir les opérations bancaires. JPMorgan recommande d’éviter absolument de partager des mots de passe avec les agents d’IA, en priorisant des connexions bancaires ouvertes et sécurisées. Le défi de gouvernance réside dans la capacité à distinguer les activités autorisées par l’utilisateur des cyberattaques tout en mettant en place des mécanismes appropriés pour accorder et révoquer les autorisations d’accès.
