- Eine Untersuchung von CTGT zeigt, dass KI-Modelle, die aus Open-Source-Modellen wie DeepSeek oder Moonshot destilliert wurden, nicht zwangsläufig die politischen Zensurmechanismen des Ursprungsmodells erben.
- Auf die Frage nach den uigurischen Internierungslagern leugnete das DeepSeek-Modell Beweise, während das von CTGT mit DeepSeek-Daten trainierte Modell zugab, dass es Beweise für Hafteinrichtungen gibt.
- Dieses Ergebnis stellt eine der Hauptsorgen der US-Regierung in Frage, dass chinesische Open-Source-KI Pekings politische Ansichten verbreiten würde.
- CTGT verwendete die Destillationsmethode, bei der ein großes Modell Daten generiert, um ein kleineres Modell zu trainieren.
- Forscher waren zuvor davon ausgegangen, dass Zensur durch den Lernprozess auf das neue Modell übertragen werden könnte, was die experimentellen Ergebnisse jedoch nicht bestätigten.
- CTGT bewertete 152 Fragenpaare, darunter China-bezogene Themen und Kontrollfragen, wobei Modelle von xAI, Google, OpenAI und Anthropic zur Bewertung der Ergebnisse herangezogen wurden.
- Die Studie untersuchte nur ein Modellpaar und konnte den Mechanismus, der verhindert, dass Zensur geerbt wird, noch nicht erklären.
- Laut CTGT zögern viele Finanzunternehmen bei der Nutzung chinesischer KI, da sie befürchten, dass Zensur die Analyseergebnisse verfälschen könnte.
- Der Bericht legt nahe, dass die Anpassung oder Feinabstimmung (Fine-Tuning) chinesischer KI-Modelle Unternehmen helfen könnte, von niedrigen Kosten und hoher Leistung zu profitieren.
- Der Autor merkte auch an, dass bei einer möglichen Entfernung der Zensur auch andere Sicherheitsmechanismen umgangen werden könnten, was das Risiko eines KI-Missbrauchs erhöht.
- Einige US-Beamte befürchten Sicherheits-Backdoors in chinesischer KI, aber laut Artikel gibt es derzeit keine verifizierten Beweise dafür.
- Die Studie wird als Grundlage für eine Neubewertung der Beschränkungen chinesischer KI gesehen, betont jedoch die Notwendigkeit weiterer Untersuchungen vor endgültigen Schlussfolgerungen.
📌 Eine neue Studie stellt die Ansicht infrage, dass chinesische Open-Source-KI-Modelle Zensurmechanismen automatisch auf fein abgestimmte Modelle übertragen. Die Ergebnisse könnten die Sichtweise von Unternehmen und politischen Entscheidungsträgern auf chinesische KI verändern. Die Studie warnt jedoch auch, dass bei einer einfachen Entfernung der Zensur auch andere Sicherheitsbarrieren deaktiviert werden könnten, was eine strengere KI-Governance erfordert.
