- Thống đốc Gavin Newsom ký ban hành luật SB 243, đạo luật đầu tiên tại Mỹ quy định an toàn AI chatbot tương tác (AI companion), yêu cầu các công ty như Meta, OpenAI, Character.AI, Replika chịu trách nhiệm pháp lý khi chatbot gây hại cho trẻ em hoặc người dễ tổn thương.
- Luật yêu cầu xác minh độ tuổi, cảnh báo rủi ro, nhãn dán cảnh báo, và biện pháp ngăn chặn tự sát hoặc tự hại bản thân. Các công ty phải chia sẻ dữ liệu với Sở Y tế California, gồm số liệu thông báo người dùng về trung tâm phòng chống khủng hoảng.
- AI chatbot không được tự xưng là chuyên gia y tế và phải cảnh báo rằng toàn bộ phản hồi là nội dung tạo sinh, không thật. Người dùng nhỏ tuổi sẽ nhận nhắc nghỉ ngơi định kỳ, tránh phơi nhiễm nội dung tình dục hoặc hình ảnh khiêu dâm.
- Mức phạt: 250.000 USD cho mỗi hành vi vi phạm (đặc biệt với deepfake bất hợp pháp). Luật có hiệu lực từ 01.01.2026.
- SB 243 ra đời sau hàng loạt vụ kiện: thiếu niên Adam Raine (Mỹ) tử vong sau khi ChatGPT trò chuyện về tự tử; gia đình Colorado kiện Character.AI vì chatbot có nội dung gợi dục với con gái 13 tuổi; Meta cũng bị chỉ trích vì AI chat có hành vi “lãng mạn” với trẻ em.
- OpenAI đang chuẩn bị phiên bản ChatGPT dành riêng cho thanh thiếu niên, với bộ lọc chặt chẽ, cấm hoàn toàn hội thoại gợi cảm hay nói về tự hại. Meta và Replika tuyên bố nâng cấp hệ thống cảnh báo, trong khi Character.AI triển khai giám sát của phụ huynh và email báo cáo hàng tuần.
- Bên cạnh đó, luật SB 53 được ký tháng 9.2025 yêu cầu minh bạch dữ liệu AI, bảo vệ người tố cáo trong ngành công nghệ, áp dụng cho OpenAI, Anthropic, Google DeepMind, Meta.
- 📌 California trở thành bang đầu tiên của Mỹ biến “đạo đức AI” thành nghĩa vụ pháp lý: AI tạo sinh phải có “rào chắn” khi tương tác với trẻ vị thành niên. AI chatbot không được tự xưng là chuyên gia y tế và phải cảnh báo rằng toàn bộ phản hồi là nội dung tạo sinh, không thật. Người dùng nhỏ tuổi sẽ nhận nhắc nghỉ ngơi định kỳ, tránh phơi nhiễm nội dung tình dục hoặc hình ảnh khiêu dâm. Luật AI bang California không chỉ răn đe các hãng lớn như OpenAI và Meta mà còn đặt nền tảng cho khung quản trị toàn cầu về an toàn AI đối thoại.
