2026年11月6日,新加坡三大机构——网络安全局(CSA)、政府科技局(GovTech)和资讯通信媒体发展局(IMDA)在 Meta 于新加坡推出 Muse 之后,发布了关于使用个人 AI 代理的安全建议。
与传统聊天机器人不同,AI 代理可以代表用户独立访问网站、管理电子邮件、安排日程并执行交易,从而增加了数据泄露和意外操作的风险。 新加坡提出了 5 组保护措施:
第一,限制访问权限。仅连接必要的应用程序,避免连接银行、政府和医疗账户,且切勿提供密码、OTP 验证码或信用卡信息。
第二,保持控制权。优先采用只读权限,在发送电子邮件、删除或共享文件以及执行重要交易之前,要求逐次审批。
第三,控制个人数据。检查服务提供商收集的信息、存储期限、数据是否用于 AI 训练或广告,以及清除内存的能力。
第四,防范隐藏在网站、电子邮件、文档或图像中的恶意提示词攻击,以防止 AI 代理被操纵执行非法操作。
第五,当 AI 代理访问电子邮件、文档和联系人信息时,保护他人的隐私。
新加坡强调,用户仍需对 AI 代理的行为负责,视情况承担潜在的法律责任。
📌 结论: 新加坡的建议反映了 AI 治理的转变,即从控制 AI 生成的内容转向控制 AI 代理的访问权限和自主行为。核心原则是授予最低权限、对每次重大后果的操作进行单独审批并定期检查活动日志。值得注意的是,新加坡警告称,不能仅仅依靠提示词来限制 AI 代理,而必须在应用程序和连接的系统中建立直接的控制权限。
