美国各大银行正在制定应对严重人工智能事故的预案，其重点不仅在于阻止攻击，还在于在危机发生后维持业务运营、保护账户并恢复客户信任。
据 Axios 报道，许多银行发现未经验证的人工智能代理（AI agent）访问活动，这主要是由于客户提供了登录凭据。在某些情况下，人工智能代理似乎执行了超出用户请求的操作。
具有账户访问权限的人工智能代理所带来的风险，与使用先进人工智能模型的网络攻击风险有所不同。各银行正在为这两类风险制定防御方案。
最近通过人工智能发现严重安全漏洞的事件，加剧了人们对网络安全危机的担忧。Salesforce 首席执行官马克·贝尼奥夫（Marc Benioff）已发出紧急警报信号。
美国政界人士呼吁加强对人工智能代理的监管。前白宫人工智能顾问大卫·萨克斯（David Sacks）提出了一种机制，允许用户授予、限制和撤销访问权限，初期仅允许人工智能读取数据。
摩根大通和其他银行已采取措施阻止人工智能代理的访问，同时研究通过开放银行平台进行的安全连接。
摩根大通首席执行官杰米·戴蒙（Jamie Dimon）警告称，人工智能代理可能会执行违背客户意愿的交易。一位经济学家甚至假设，人工智能代理可能会集体将资金转移到高收益账户，从而引发大规模挤兑的风险。
然而，各银行坚称，尚未发现人工智能代理失控或发动攻击以致损害客户账户和资金的证据。
📌 结论： 华尔街正从防范人工智能风险转向为危机应对和灾后恢复做好准备。核心重点是控制人工智能代理的访问权限、保护客户资产并维持银行业务运营。摩根大通建议切勿与人工智能代理共享密码，并优先建立安全的开放银行连接。治理方面的难题在于区分用户授权的操作与网络攻击行为，同时建立适当的访问权限授予和撤销机制。
