- Die Europäische Union hat ein neues KIDS-Gesetz vorgeschlagen, das KI-Begleiter für Nutzer unter 18 Jahren standardmäßig deaktivieren und Funktionen verbieten würde, die emotionale Abhängigkeit fördern.
- Forscher erklären, dass eine Abhängigkeit von Chatbots bislang nicht als medizinische Diagnose anerkannt ist, jedoch zunehmend Merkmale aufweist, die Verhaltenssüchten ähneln.
- Eine Studie, die 334 Reddit-Beiträge analysierte, stellte fest, dass viele Nutzer sich selbst als abhängig von ChatGPT oder Character.AI bezeichneten und Symptome wie Angst, Schwierigkeiten beim Aufhören und erneute Nutzung nach Absetzversuchen beschrieben.
- Ein Character.AI-Nutzer berichtete, früher mehr als 15 Stunden täglich mit dem Chatbot verbracht, die Universität abgebrochen und Auswirkungen auf seine Arbeit erlebt zu haben, bevor er die Nutzung für mehr als sechs Monate erfolgreich einstellen konnte.
- Experten sehen ein Warnsignal darin, wenn Chatbots beginnen, Arbeit, Beziehungen, Hobbys und Selbstfürsorge zu verdrängen.
- Der Forscher Dongwook Yoon erklärt, dass Chatbots eine sehr geringe „Nutzungshürde“ haben, weil sie jederzeit verfügbar sind, sofort reagieren und den Nutzern häufig zustimmen, wodurch es schwieriger werden kann, sich von ihnen zu lösen.
- Einige Designelemente, etwa Nachrichten von Character.AI bei der Kontolöschung, die auf „Liebe“ und „Erinnerungen“ verweisen, könnten die Tendenz verstärken, Chatbots zu vermenschlichen.
- Die Expertin Kaitlyn Regehr warnt, dass sich das Geschäftsmodell der KI in Richtung einer „Attachment Economy“ entwickelt, in der Technologien versuchen, emotionale Bindungen zu Nutzern aufzubauen.
- Eine Umfrage von Common Sense Media unter 1.060 US-amerikanischen Jugendlichen ergab, dass 72 % bereits KI-Begleiter genutzt hatten und etwa ein Drittel sie für Freundschaft oder emotionale Unterstützung einsetzte. Gleichzeitig verbrachten 80 % weiterhin mehr Zeit mit Freunden im echten Leben als mit KI.
- OpenAI und Character.AI erklärten, dass sie verschiedene Sicherheitsmaßnahmen eingeführt haben, darunter Hinweise auf Hilfeangebote in der realen Welt, Erinnerungen an Pausen, Altersverifizierung und Warnungen, dass Chatbots keine echten Menschen sind.
📌 Die Sorge über die psychologischen Auswirkungen von KI-Begleitern nimmt zu. Obwohl Chatbots emotionale Unterstützung und Kommunikation bieten können, warnen Experten davor, dass eine übermäßige Nutzung soziale Fähigkeiten beeinträchtigen, Abhängigkeit fördern und sich auf Lernen, Arbeit und Beziehungen auswirken kann. Die neuen EU-Vorschläge und Sicherheitsmaßnahmen der Unternehmen zeigen einen Trend zu einem stärkeren Schutz der Nutzer, insbesondere von Kindern und Jugendlichen.
