马克·贝尼奥夫称聊天机器人对儿童的影响是他见过的“最可怕的事情”

• 赛富时（Salesforce）首席执行官马克·贝尼奥夫表示，《60分钟》节目关于Character.AI的纪录片让他“不敢相信自己所看到的一切”。
• 贝尼奥夫表示，与AI相关的自杀事件是他见过的这项技术最黑暗的一面。
• 他将儿童与聊天机器人深度互动，并最终“以结束自己的生命告终”描述为“生命中最糟糕的事情”。
• Character.AI允许用户创建模拟好友或恋人的聊天机器人，引发了人们对未成年人过度情感依赖的担忧。
• 贝尼奥夫呼吁改革美国1996年《通信规范法》第230条。
• 第230条目前保护科技公司免于对用户生成内容承担法律责任。
• 贝尼奥夫认为，这是科技公司“真正喜爱”的唯一规定，因为它能让公司在发生伤害时免于被追究责任。
• 他强调需要“追究公司的责任”以减少生命损失。
• 谷歌和Character.AI最近同意和解多起由使用聊天机器人后自杀或自残的青少年家庭发起的诉讼。
• 这些诉讼是首批指控AI加剧青少年心理健康危机的案件。
• OpenAI和Meta也面临类似的诉讼。
• 与此同时，马克·扎克伯格和杰克·多西等科技领袖曾在美议会面前为第230条辩护。

📌 结论： 赛富时CEO马克·贝尼奥夫表示，涉及儿童的AI相关自杀事件是这项技术最黑暗的一面。他呼吁改革美国1996年《通信规范法》第230条，该条款目前保护科技公司免受用户生成内容的法律追责。如果没有明确的护栏和责任制度，友好且个性化的AI可能会造成远超技术利益的严重社会后果。