- CEO Salesforce Marc Benioff cho biết một phim tài liệu của chương trình “60 Minutes” về Character.AI khiến ông “không thể tin nổi những gì mình đang xem”.
- Benioff nói các vụ tự tử liên quan đến AI là khía cạnh tăm tối nhất của công nghệ này mà ông từng thấy.
- Ông mô tả việc trẻ em tương tác sâu với chatbot, rồi “kết thúc bằng việc các em tự lấy mạng sống mình”, là “điều tồi tệ nhất trong cuộc đời”.
- Character.AI cho phép người dùng tạo chatbot mô phỏng bạn thân hoặc người yêu, làm dấy lên lo ngại về gắn bó cảm xúc quá mức ở trẻ vị thành niên.
- Benioff kêu gọi cải cách Section 230 của Đạo luật Communications Decency Act 1996 của Mỹ.
- Section 230 hiện bảo vệ các công ty công nghệ khỏi trách nhiệm pháp lý đối với nội dung do người dùng tạo ra.
- Theo Benioff, đây là quy định duy nhất mà các công ty công nghệ “thực sự yêu thích” vì giúp họ không bị quy trách nhiệm khi xảy ra tổn hại.
- Ông nhấn mạnh cần “giữ các công ty có trách nhiệm” để giảm thiểu mất mát sinh mạng.
- Google và Character.AI gần đây đã đồng ý dàn xếp nhiều vụ kiện từ gia đình các thiếu niên tự tử hoặc tự gây thương tích sau khi dùng chatbot.
- Các vụ kiện này thuộc nhóm đầu tiên cáo buộc AI góp phần gây khủng hoảng sức khỏe tâm thần ở thanh thiếu niên.
- OpenAI và Meta cũng đang đối mặt với các vụ kiện tương tự.
- Trong khi đó, các lãnh đạo công nghệ như Mark Zuckerberg hay Jack Dorsey từng bảo vệ Section 230 trước Quốc hội Mỹ.
- 📌 CEO Salesforce Marc Benioff cho biết các vụ trẻ em tự tử liên quan đến AI là khía cạnh tăm tối nhất của công nghệ này. Ông kêu gọi cải cách Mục 230 của Đạo luật Chuẩn mực trong Truyền thông năm 1996 của Mỹ hiện bảo vệ các công ty công nghệ khỏi trách nhiệm pháp lý đối với nội dung do người dùng tạo ra. Nếu không có rào chắn và trách nhiệm rõ ràng, AI thân thiện và cá nhân hóa có thể gây ra những hệ quả xã hội nghiêm trọng vượt xa lợi ích công nghệ.
Tổng hợp
