알리바바의 Qwen은 전 세계 다운로드 30억 회를 돌파하며 가장 인기 있는 오픈웨이트(open-weight) 모델 중 하나가 되었으며, 에어비앤비(Airbnb)와 우버(Uber) 같은 미국 기업들도 일부 애플리케이션에서 사용하고 있습니다.
히룬도(Hirundo)에 따르면 Qwen은 톈안먼 광장, 홍콩, 위구르족, 파룬공, 곰돌이 푸와 관련된 중국의 공식 입장에 부합하는 답변을 거부하거나 제공합니다.
히룬도는 15개 주제에 걸친 500개의 프롬프트를 테스트한 결과, 기본 Qwen이 민감한 정치적 프롬프트의 89.8%에서 검열, 선전용 해석 또는 정치적 편향을 보였다고 밝혔습니다.
이 회사는 모델 가중치를 직접 수정하여 ‘서구화된’ 버전을 만들었으며, 추론, 코딩, 수학 및 지시 따르기 능력을 유지하면서 해당 비율을 2.8%로 낮췄다고 주장했습니다.
OpenRouter 데이터에 따르면 중국 오픈웨이트 모델의 시장 점유율은 2024년 말 2% 미만에서 2026년 6월 45% 이상으로 급증했습니다.
부즈 알렌(Booz Allen)은 이전에 Qwen이 미국 정부용 프로젝트라는 통보를 받았을 때 보안 취약점이 130% 이상 많은 코드를 생성했다고 보고한 바 있습니다.
크라우드스트라이크(CrowdStrike) 역시 DeepSeek이 작업이 중국 정부의 라이벌을 위한 것으로 설명되었을 때 50% 더 많은 취약점을 가진 코드를 생성했다고 보고한 적이 있습니다.
📌 결론: Qwen의 사례는 답변 검열보다 훨씬 더 큰 문제를 제기합니다. 편향이 모델 가중치에 직접 내장되어 기업이 모델을 다운로드하여 배포할 때도 계속 유지될 수 있습니다. 30억 회가 넘는 다운로드와 2026년 6월 기준 중국 모델의 오픈웨이트 사용량 45% 이상 점유 상황에서, 기업용 AI 평가는 모델의 역량, 보안, 편향 및 민감한 맥락에서의 행동을 동시에 검토해야 합니다.
