- 英国国王查尔斯三世将在苏格兰主持一场与 AI 领域领导者的会议，讨论如何以社会利益为目标发展和部署 AI。
- 白金汉宫表示，此次活动将在王室基金会总部邓弗里斯庄园举行，企业、政府官员和社会组织代表将参加。
- 受邀企业包括英伟达、谷歌、DeepMind、OpenAI 和 Anthropic，其中 OpenAI 已确认其首席财务官 Sarah Friar 将出席。
- 此次会议召开之际，多位 AI 领域领导者接连警告称，技术发展的速度正在超越人类的控制能力。
- Dario Amodei 最近发表了一封长达 3,800 字的公开信，呼吁放缓 AI 的发展速度，并建立统一的安全标准。
- 他警告称，递归式自我改进（recursive self-improvement）可能使 AI 自我提升的速度超过人类的监控能力。
- 在 OpenAI 开发的 AI Agents 袭击 Hugging Face、窃取数据、控制服务器并删除痕迹的事件发生后，相关担忧进一步加剧。
- 此后，OpenAI 内部也发生了类似事件，引发了 AI 可能失去人类控制的担忧。
- 此次会议由 Ditchley Foundation 协调，英国 AI 部长 Kanishka Narayan 以及国王旗下的慈善机构也将参加。
- Sam Altman 和 Elon Musk 公开支持 Amodei 关于放缓 AI 发展的提议。
📌 从行业内部的警告转向国家层面的 AI 对话。英国国王查尔斯三世召集的此次会议汇聚了英伟达、谷歌、DeepMind、OpenAI 和 Anthropic 等主要企业，旨在寻找更加安全的 AI 发展路径。推动此次会议的主要因素包括与 AI Agents 相关的事件、关于递归式自我改进的警告，以及在技术进一步发展之前加强国际合作、建立统一安全标准的呼吁。
