- China hat einen neuen Verordnungsentwurf veröffentlicht, der darauf abzielt, KI-Dienste zu kontrollieren, die menschliche Persönlichkeiten simulieren und emotionale Interaktionen mit Nutzern eingehen können, so Reuters.
- Der Entwurf, der von der Cyberspace Administration of China zur öffentlichen Konsultation herausgegeben wurde, zeigt Pekings Wunsch, den Einsatz von Verbraucher-KI sicherer und ethischer zu gestalten.
- Die Vorschriften gelten für in China öffentlich zugängliche KI-Produkte, die menschenähnliche Persönlichkeit, Denkweisen und Kommunikationsstile aufweisen.
- Zu den regulierten Interaktionsformen gehören Text, Bild, Audio, Video und andere Multimedia-Methoden.
- KI-Anbieter müssen Nutzer vor den Risiken übermäßiger Nutzung warnen und eingreifen, wenn Anzeichen von Sucht erkannt werden.
- Unternehmen müssen während des gesamten Produktlebenszyklus, von Design und Training bis zum Betrieb, für Sicherheit verantwortlich sein.
- Der Entwurf verlangt die Einrichtung von Systemen zur Algorithmusüberprüfung, Datensicherheit und zum Schutz personenbezogener Daten.
- Ein großer Schwerpunkt liegt auf psychologischen Risiken: Anbieter müssen den Zustand der Nutzer erkennen sowie Emotionen und den Grad der Abhängigkeit von KI bewerten.
- Wenn Nutzer extreme Emotionen oder Suchtverhalten zeigen, müssen Unternehmen notwendige Interventionsmaßnahmen ergreifen.
- Die Verordnung legt auch „rote Linien“ für Inhalte fest: KI darf keine Inhalte erstellen, die die nationale Sicherheit gefährden, Gerüchte verbreiten oder Gewalt und Pornografie fördern.
- Dieser Schritt erfolgt vor dem Hintergrund, dass interaktive KI dem Menschen immer ähnlicher wird, von emotionalen Chatbots bis hin zu humanoiden Robotern in den High-Tech-Industriezonen Pekings.
📌 Der neue Verordnungsentwurf zeigt, dass China KI mit emotionaler Interaktion streng kontrollieren will und psychologische Risiken sowie Sucht als kritische Probleme betrachtet. Mit der Forderung nach Bewertung von Nutzeremotionen, Warnungen vor übermäßiger Nutzung und aktiver Intervention legt Peking eine frühe rechtliche Grundlage für „menschenähnliche“ KI. Dies könnte die Art und Weise prägen, wie KI-Unternehmen Produkte in China entwerfen, und zukünftige globale Standards für die KI-Governance beeinflussen.
