- 로이터 통신에 따르면 중국은 인간의 성격을 모방하고 사용자와 정서적 상호작용을 할 수 있는 AI 서비스를 통제하기 위한 새로운 규제 초안을 발표했습니다.
- 중국 국가사이버정보판공실(Cyberspace Administration of China)이 대중의 의견 수렴을 위해 발표한 이 초안은 소비자용 AI 배포를 보다 안전하고 윤리적인 방향으로 형성하려는 베이징의 의지를 보여줍니다.
- 이 규정은 중국 내에서 공개적으로 제공되며 인간과 같은 성격, 사고 및 의사소통 방식을 보이는 AI 제품에 적용됩니다.
- 규제 대상 상호작용 형태에는 텍스트, 이미지, 오디오, 비디오 및 기타 멀티미디어 방식이 포함됩니다.
- AI 제공업체는 사용자에게 과도한 사용의 위험을 경고하고 중독 징후가 발견될 경우 개입해야 합니다.
- 기업은 설계, 훈련에서 운영에 이르는 제품 수명 주기 전반에 걸쳐 안전에 대한 책임을 져야 합니다.
- 초안은 알고리즘 검토, 데이터 보안 및 개인 정보 보호 시스템 구축을 요구합니다.
- 주요 중점 사항은 심리적 위험입니다. 제공업체는 사용자의 상태를 식별하고 감정과 AI에 대한 의존도를 평가해야 합니다.
- 사용자가 극단적인 감정이나 중독 행동을 보일 경우 기업은 필요한 개입 조치를 취해야 합니다.
- 규정은 콘텐츠에 대한 “금지선(red lines)”도 설정했습니다. AI는 국가 안보를 위협하거나 소문을 퍼뜨리거나 폭력 및 포르노를 조장하는 콘텐츠를 생성해서는 안 됩니다.
- 이러한 움직임은 감성 챗봇에서 베이징의 첨단 산업 단지에 있는 휴머노이드 로봇에 이르기까지 대화형 AI가 점점 더 인간과 비슷해지는 상황에서 나왔습니다.
📌 새로운 규제 초안은 중국이 정서적 상호작용을 하는 AI를 엄격하게 통제하고자 하며, 심리적 위험과 중독을 중요한 문제로 간주하고 있음을 보여줍니다. 사용자 감정 평가, 과도한 사용 경고 및 적극적인 개입을 요구함으로써 베이징은 “인간 같은” AI에 대한 초기 법적 기반을 마련하고 있습니다. 이는 AI 기업들이 중국에서 제품을 설계하는 방식을 형성하고 향후 글로벌 AI 관리 표준에 영향을 미칠 수 있습니다.
