Marc Benioff bezeichnet die Auswirkungen von Chatbots auf Kinder als das „Schrecklichste“, was er je gesehen hat

• Salesforce-CEO Marc Benioff erklärte, dass eine Dokumentation der Sendung „60 Minutes“ über Character.AI ihn fassungslos zurückgelassen habe: Er konnte „nicht glauben, was er da sah“.
• Benioff sagte, dass KI-bezogene Suizide der dunkelste Aspekt dieser Technologie seien, den er je erlebt habe.
• Er beschrieb die tiefe Interaktion von Kindern mit Chatbots, die damit „endet, dass sie sich das Leben nehmen“, als das „Schlimmste in seinem Leben“.
• Character.AI ermöglicht es Nutzern, Chatbots zu erstellen, die beste Freunde oder Partner simulieren, was Sorgen über eine übermäßige emotionale Bindung bei Minderjährigen hervorruft.
• Benioff forderte eine Reform von Sektion 230 des US-amerikanischen Communications Decency Act von 1996.
• Sektion 230 schützt Technologieunternehmen derzeit vor der rechtlichen Haftung für nutzergenerierte Inhalte.
• Laut Benioff ist dies die einzige Regelung, die Tech-Unternehmen „wirklich lieben“, da sie verhindert, dass sie zur Verantwortung gezogen werden, wenn Schäden auftreten.
• Er betonte, dass man „Unternehmen zur Rechenschaft ziehen“ müsse, um den Verlust von Menschenleben zu minimieren.
• Google und Character.AI haben kürzlich zugestimmt, mehrere Klagen von Familien von Teenagern beizulegen, die nach der Nutzung von Chatbots Suizid begingen oder sich selbst verletzten.
• Diese Klagen gehören zu den ersten, in denen behauptet wird, dass KI zur psychischen Gesundheitskrise bei Jugendlichen beiträgt.
• Auch OpenAI und Meta sehen sich ähnlichen Klagen gegenüber.
• Währenddessen haben Tech-Größen wie Mark Zuckerberg oder Jack Dorsey Sektion 230 zuvor vor dem US-Kongress verteidigt.

📌 Fazit: Salesforce-CEO Marc Benioff bezeichnete KI-bezogene Suizide bei Kindern als die dunkelste Seite dieser Technologie. Er forderte eine Reform des Artikels 230 des Communications Decency Act von 1996, der Tech-Unternehmen derzeit vor der Haftung für Nutzerinhalte schützt. Ohne klare Schranken und Verantwortlichkeiten könnte freundliche und personalisierte KI schwerwiegende soziale Folgen haben, die den technologischen Nutzen weit überwiegen.