Qwen di Alibaba ha superato i 3 miliardi di download globali, diventando uno dei modelli open-weight più popolari, ed è utilizzato da aziende statunitensi come Airbnb e Uber in alcune applicazioni.
Hirundo ha dichiarato che Qwen rifiuta o fornisce risposte in linea con le posizioni ufficiali cinesi riguardo a piazza Tienanmen, Hong Kong, uiguri, Falun Gong e Winnie the Pooh.
Hirundo ha testato 500 prompt su 15 argomenti e ha riferito che il Qwen di base mostra censura, interpretazioni allineate alla propaganda o pregiudizi politici nell’89,8% dei prompt politici sensibili.
L’azienda ha modificato direttamente i pesi del modello per creare una versione “occidentalizzata”, dichiarando di aver ridotto tale percentuale al 2.8% pur mantenendo le capacità di ragionamento, programmazione, matematica e rispetto delle istruzioni.
La quota di mercato dei modelli open-weight cinesi è salita da meno del 2% alla fine del 2024 a oltre il 45% nel giugno 2026, secondo i dati di OpenRouter.
Booz Allen aveva precedentemente riferito che Qwen generava codice con oltre il 130% di vulnerabilità di sicurezza in più quando veniva informato che il progetto era destinato al governo degli Stati Uniti.
Anche CrowdStrike aveva riferito che DeepSeek generava codice con il 50% di vulnerabilità in più quando il compito veniva descritto come destinato a un rivale del governo cinese.
📌 Conclusione: Il caso di Qwen solleva un problema molto più ampio rispetto alla semplice censura delle risposte: i pregiudizi possono essere radicati direttamente nei pesi del modello e persistere quando le aziende scaricano e distribuiscono il modello. Con oltre 3 miliardi di download e modelli cinesi che detengono oltre il 45% dell’utilizzo di modelli open-weight nel giugno 2026, la valutazione dell’IA aziendale deve esaminare simultaneamente le capacità, la sicurezza, i pregiudizi e il comportamento del modello in contesti sensibili.
