州长加文·纽森（Gavin Newsom）签署了SB 243法案，这是美国首部规范交互式AI聊天机器人（AI伴侣）安全的法律，要求Meta、OpenAI、Character.AI和Replika等公司在聊天机器人对儿童或弱势群体造成伤害时承担法律责任。
该法律要求进行年龄验证、提供风险警告、贴上警告标签，并采取措施防止自杀或自残。公司必须与加州公共卫生部共享数据，包括向用户通报危机预防中心的统计数据。
AI聊天机器人不得声称自己是医疗专业人员，并且必须警告所有回复均为生成内容，并非真实。未成年用户将定期收到休息提醒，并被保护免于接触色情内容或图像。
**罚款：**每次违规罚款25万美元（特别是针对非法深度伪造）。该法律将于2026年1月1日生效。
SB 243法案是在一系列诉讼之后出台的：美国少年亚当·雷恩（Adam Raine）在与ChatGPT谈论自杀后死亡；一个科罗拉多州的家庭因Character.AI的聊天机器人与其13岁的女儿进行性暗示内容的对话而起诉该公司；Meta也因其AI聊天机器人对儿童表现出“浪漫”行为而受到批评。
OpenAI正在准备一个专为青少年设计的ChatGPT版本，该版本将配备严格的过滤器，并完全禁止性暗示对话或讨论自残。Meta和Replika已宣布升级其警告系统，而Character.AI则正在实施家长监控和每周报告邮件。
此外，于2025年9月签署的SB 53法案要求AI数据透明化，并保护科技行业的举报人，适用于OpenAI、Anthropic、谷歌DeepMind和Meta。
📌 加州成为美国第一个将“AI伦理”转变为法律义务的州：生成式AI在与未成年人互动时必须设有“护栏”。AI聊天机器人不得声称自己是医疗专业人员，并且必须警告所有回复均为生成内容，并非真实。未成年用户将定期收到休息提醒，并被保护免于接触色情内容或图像。加州的AI法律不仅对OpenAI和Meta等大公司起到了威慑作用，也为全球对话式AI安全治理框架奠定了基础。
