- Salesforce-CEO Marc Benioff erklärte, dass eine Dokumentation der Sendung „60 Minutes“ über Character.AI ihn fassungslos zurückgelassen habe: Er konnte „nicht glauben, was er da sah“.
- Benioff sagte, dass KI-bezogene Suizide der dunkelste Aspekt dieser Technologie seien, den er je erlebt habe.
- Er beschrieb die tiefe Interaktion von Kindern mit Chatbots, die damit „endet, dass sie sich das Leben nehmen“, als das „Schlimmste in seinem Leben“.
- Character.AI ermöglicht es Nutzern, Chatbots zu erstellen, die beste Freunde oder Partner simulieren, was Sorgen über eine übermäßige emotionale Bindung bei Minderjährigen hervorruft.
- Benioff forderte eine Reform von Sektion 230 des US-amerikanischen Communications Decency Act von 1996.
- Sektion 230 schützt Technologieunternehmen derzeit vor der rechtlichen Haftung für nutzergenerierte Inhalte.
- Laut Benioff ist dies die einzige Regelung, die Tech-Unternehmen „wirklich lieben“, da sie verhindert, dass sie zur Verantwortung gezogen werden, wenn Schäden auftreten.
- Er betonte, dass man „Unternehmen zur Rechenschaft ziehen“ müsse, um den Verlust von Menschenleben zu minimieren.
- Google und Character.AI haben kürzlich zugestimmt, mehrere Klagen von Familien von Teenagern beizulegen, die nach der Nutzung von Chatbots Suizid begingen oder sich selbst verletzten.
- Diese Klagen gehören zu den ersten, in denen behauptet wird, dass KI zur psychischen Gesundheitskrise bei Jugendlichen beiträgt.
- Auch OpenAI und Meta sehen sich ähnlichen Klagen gegenüber.
- Währenddessen haben Tech-Größen wie Mark Zuckerberg oder Jack Dorsey Sektion 230 zuvor vor dem US-Kongress verteidigt.
📌 Fazit: Salesforce-CEO Marc Benioff bezeichnete KI-bezogene Suizide bei Kindern als die dunkelste Seite dieser Technologie. Er forderte eine Reform des Artikels 230 des Communications Decency Act von 1996, der Tech-Unternehmen derzeit vor der Haftung für Nutzerinhalte schützt. Ohne klare Schranken und Verantwortlichkeiten könnte freundliche und personalisierte KI schwerwiegende soziale Folgen haben, die den technologischen Nutzen weit überwiegen.
