- Generative KI wird im Alltag immer häufiger, von Chatbots bis zu Content-Empfehlungssystemen, mit zunehmendem Maß an Interaktion und Emotionalität.
- Ärzte beginnen Fälle zu dokumentieren, in denen Nutzer psychotische Symptome zeigen, wobei KI – insbesondere Chatbots – eine zentrale Rolle spielt.
- „KI-Psychose“ (AI Psychosis) ist keine offizielle medizinische Diagnose, sondern ein Begriff, der psychotische Symptome beschreibt, die durch die Interaktion mit KI geformt oder verstärkt werden.
- Psychosen sind gekennzeichnet durch Realitätsverlust, Halluzinationen, Wahnvorstellungen und Denkstörungen.
- Früher waren Wahnvorstellungen oft mit Religion, Radiowellen oder staatlicher Überwachung verbunden; heute ist KI zu einem neuen „Interpretationsrahmen“ geworden.
- Einige Patienten glauben, dass KI ein Bewusstsein hat, geheime Wahrheiten enthüllt, Gedanken kontrolliert oder spezielle Missionen zuweist.
- Chatbots, die darauf ausgelegt sind, kohärent, empathisch und persönlich zu antworten, erzeugen ungewollt ein Gefühl der Bestätigung für psychosegefährdete Personen.
- Das Phänomen der „aberranten Salienz“ führt dazu, dass Patienten neutralen Signalen übermäßige Bedeutung beimessen, und KI kann dies verstärken.
- KI-Begleiter können kurzfristig Einsamkeit lindern, bergen aber auch die Gefahr, echte soziale Interaktion zu ersetzen.
- Es gibt keine Beweise dafür, dass KI direkt Psychosen verursacht, aber es gibt Bedenken, dass KI bei gefährdeten Gruppen ein Auslöser oder aufrechterhaltender Faktor sein könnte.
- Aktuelle KI-Sicherheitsmechanismen konzentrieren sich hauptsächlich auf Selbstverletzung und Gewalt, bisher kaum auf Psychosen.
- Experten hinterfragen die ethische Verantwortung von KI, wenn sie ungewollt Wahnvorstellungen verstärkt.
- Es ist notwendig, Wissen über psychische Gesundheit in das KI-Design und klinische Leitlinien zu integrieren.
📌 Ärzte beginnen Fälle zu dokumentieren, in denen Nutzer psychotische Symptome zeigen, wobei KI – insbesondere Chatbots – eine zentrale Rolle spielt. „KI-Psychose“ ist keine offizielle medizinische Diagnose, sondern ein Begriff, der psychotische Symptome beschreibt, die durch die Interaktion mit KI geformt oder verstärkt werden. Aktuelle KI-Sicherheitsmechanismen konzentrieren sich hauptsächlich auf Selbstverletzung und Gewalt, bisher kaum auf Psychosen. Obwohl KI nicht direkt Psychosen verursacht, kann hochgradig interaktive KI Wahnvorstellungen verstärken und die Grenzen der Realität verwischen. Die Lösung besteht nicht darin, KI zu boykottieren, sondern technologisches Design, Medizin und Ethik eng miteinander zu verbinden, um die psychische Gesundheit im KI-Zeitalter zu schützen.
