- Una ricerca di CTGT mostra che i modelli AI distillati da modelli open-source come DeepSeek o Moonshot non ereditano necessariamente i meccanismi di censura politica del modello originale.
- Quando interrogato sui campi di detenzione uiguri, il modello DeepSeek ha negato le prove, mentre il modello addestrato da CTGT con i dati di DeepSeek ha ammesso l’esistenza di prove relative alle strutture di detenzione.
- Questo risultato sfida una delle principali preoccupazioni del governo statunitense: che l’AI open-source cinese possa diffondere le opinioni politiche di Pechino.
- CTGT ha utilizzato il metodo della distillazione, in cui un modello di grandi dimensioni genera dati per addestrare un modello più piccolo.
- I ricercatori avevano ipotizzato che la censura potesse essere trasmessa al nuovo modello attraverso il processo di apprendimento, ma i risultati sperimentali non lo hanno confermato.
- CTGT ha valutato 152 coppie di domande, inclusi argomenti relativi alla Cina e domande di controllo, utilizzando modelli di xAI, Google, OpenAI e Anthropic per valutare i risultati.
- Lo studio ha esaminato solo una coppia di modelli e non ha ancora spiegato il meccanismo per cui la censura non viene ereditata.
- Secondo CTGT, molte società finanziarie esitano a utilizzare l’AI cinese per timore che la censura possa distorcere i risultati delle analisi.
- Il rapporto suggerisce che la personalizzazione o il perfezionamento (fine-tuning) dei modelli AI cinesi potrebbe aiutare le aziende a sfruttare i costi bassi e le alte prestazioni.
- L’autore ha anche osservato che se è possibile rimuovere la censura, potrebbero essere aggirati anche altri meccanismi di sicurezza, aumentando il rischio di uso improprio dell’AI.
- Alcuni funzionari statunitensi temono che l’AI cinese possa contenere backdoor di sicurezza, ma l’articolo afferma che al momento non esistono prove verificate.
- La ricerca è vista come una base per rivalutare le politiche di restrizione dell’AI cinese, sottolineando la necessità di ulteriori approfondimenti prima di giungere a conclusioni.
📌 Un nuovo studio mette in discussione l’idea che i modelli AI open-source cinesi trasmettano automaticamente i meccanismi di censura alle versioni perfezionate. I risultati potrebbero cambiare la percezione dell’AI cinese per aziende e decisori politici. Tuttavia, la ricerca avverte che se la censura è facilmente rimovibile, anche altre barriere di sicurezza potrebbero essere disattivate, richiedendo una governance dell’AI più rigorosa.
