- Une recherche du CTGT montre que les modèles d’IA distillés à partir de modèles open-source comme DeepSeek ou Moonshot n’héritent pas nécessairement des mécanismes de censure politique du modèle original.
- Interrogé sur les camps de détention ouïghours, le modèle DeepSeek a nié les preuves, tandis que le modèle entraîné par le CTGT à partir des données de DeepSeek a admis qu’il existait des preuves de centres de détention.
- Ce résultat remet en cause l’une des préoccupations majeures du gouvernement américain : l’idée que l’IA chinoise en open-source propagerait les opinions politiques de Pékin.
- Le CTGT a utilisé la méthode de la distillation, où un grand modèle génère des données pour entraîner un modèle plus petit.
- Les chercheurs supposaient auparavant que la censure pourrait être transmise au nouveau modèle via le processus d’apprentissage, mais les résultats expérimentaux n’ont pas confirmé cette hypothèse.
- Le CTGT a évalué 152 paires de questions, incluant des sujets liés à la Chine et des questions de contrôle, en utilisant des modèles de xAI, Google, OpenAI et Anthropic pour noter les résultats.
- L’étude n’a examiné qu’une seule paire de modèles et n’a pas encore expliqué le mécanisme par lequel la censure n’est pas héritée.
- Selon le CTGT, de nombreuses institutions financières hésitent à utiliser l’IA chinoise de peur que la censure ne fausse les résultats d’analyse.
- Le rapport suggère que la personnalisation ou l’ajustement (fine-tuning) des modèles d’IA chinois pourrait aider les entreprises à tirer profit de coûts bas et de hautes performances.
- L’auteur a également noté que si la censure peut être supprimée, d’autres mécanismes de sécurité pourraient aussi être contournés, augmentant le risque d’abus de l’IA.
- Certains officiels américains craignent que l’IA chinoise ne contienne des « backdoors » de sécurité, mais l’article précise qu’il n’existe aucune preuve vérifiée à ce jour.
- Cette étude est considérée comme une base pour réévaluer les politiques de restriction de l’IA chinoise, tout en soulignant la nécessité de recherches plus approfondies avant de conclure.
📌 Une nouvelle étude remet en question l’idée que les modèles d’IA open-source chinois transmettraient automatiquement leur censure aux versions affinées. Ces résultats pourraient changer la perception de l’IA chinoise par les entreprises et les décideurs. Cependant, l’étude avertit que si la censure est facile à retirer, d’autres barriere de sécurité pourraient l’être aussi, exigeant une gouvernance de l’IA plus stricte.
