- Генеральный директор Salesforce Марк Бениофф заявил, что документальный фильм программы «60 минут» о Character.AI заставил его «не поверить своим глазам».
- Бениофф сказал, что самоубийства, связанные с ИИ, — это самая темная сторона этой технологии, которую он когда-либо встречал.
- Он описал глубокое взаимодействие детей с чат-ботами, которое «заканчивается тем, что они лишают себя жизни», как «самое худшее в жизни».
- Character.AI позволяет пользователям создавать чат-ботов, имитирующих лучших друзей или возлюбленных, что вызывает опасения по поводу чрезмерной эмоциональной привязанности у несовершеннолетних.
- Бениофф призвал к реформе Раздела 230 Закона США о пристойности в сообщениях 1996 года.
- Раздел 230 в настоящее время защищает технологические компании от юридической ответственности за контент, создаваемый пользователями.
- По словам Бениоффа, это единственное правило, которое технологические компании «искренне любят», так как оно помогает им избегать ответственности при нанесении ущерба.
- Он подчеркнул необходимость «привлекать компании к ответственности», чтобы минимизировать человеческие жертвы.
- Google и Character.AI недавно согласились урегулировать несколько исков от семей подростков, которые покончили с собой или нанесли себе увечья после использования чат-ботов.
- Эти иски входят в число первых, в которых ИИ обвиняется в содействии кризису психического здоровья среди подростков.
- OpenAI и Meta также сталкиваются с аналогичными исками.
- Между тем, такие лидеры технологической индустрии, как Марк Цукерберг и Джек Дорси, ранее защищали Раздел 230 перед Конгрессом США.
📌 Заключение: Гендиректор Salesforce Марк Бениофф заявил, что связанные с ИИ самоубийства среди детей — это самая мрачная сторона данной технологии. Он призвал к реформе Раздела 230 Закона США о этике в сфере коммуникаций 1996 года, который освобождает техгигантов от ответственности за контент пользователей. Без четких барьеров и ответственности дружелюбный и персонализированный ИИ может привести к серьезным социальным последствиям, перевешивающим технологические выгоды.
