- 바이트댄스와 알리바바는 인간과 유사한 상호작용 AI 서비스에 대한 새로운 규제가 7월 15일 발효됨에 따라 맞춤형 AI 에이전트를 비활성화할 예정이다.
- 도우바오(Doubao)는 제품 조정으로 인해 7월 15일부터 AI 에이전트 기능을 중단하며, 관련 데이터는 10월 15일 이후 접근이나 복구가 불가능하다고 공지했다.
- 큐웬(Qwen)은 7월 10일부터 인간 닮은 상호작용 및 사용자 생성 AI 에이전트를 중단하고, 7월 15일에는 모든 AI 에이전트 서비스를 종료한다.
- 두 플랫폼은 그동안 사용자가 비서, 튜너, 역할극 캐릭터, 고정된 대화 스타일을 가진 동반자 등 개성을 가진 AI 에이전트를 만들 수 있도록 허용해 왔다.
- 새로운 규정은 장기적인 감정적 상호작용 유지를 목적으로 인간의 성격, 사고방식, 의사소통 방식을 모방하는 AI 서비스에 적용된다.
- 고객 서비스 챗봇, 지식 문답, 업무 보조, 교육 및 연구 도구 등 장기적인 감정적 결속을 만들지 않는 경우는 규제 대상에서 제외된다.
- 규제 당국은 극단적 사상, 개인정보 유출, 심신 건강 영향, AI 의존 및 중독 등의 위험성을 경고했다.
- 지난 6월 텐센트도 AI 앱 위안바오(Yuanbao)에서 유사한 기능을 제거하며 규제 추세가 확산되고 있음을 보여주었다.
- 중국은 동시에 식별 및 추적 능력을 높이기 위해 아키텍처, 식별자, 신원 관리 등을 포함한 AI 에이전트 국가 표준을 제정했다.
- 일부 사용자들은 편리한 데이터 내보내기나 이전 해결책 없이 AI 동반자와 대화 기록을 잃게 된 것에 대해 반발하고 있다.
📌 중국은 AI 에이전트에 대한 포괄적인 관리 체계를 구축하고 있다. 정부는 생산성 향상과 기업용 AI 서비스는 여전히 장려하지만, 사용자와 정서적 관계를 형성할 수 있는 AI 에이전트는 엄격히 제한하고 있다. 바이트댄스, 알리바바, 그리고 앞서 텐센트가 해당 기능을 일제히 삭제한 것은 빠르게 발전하는 AI 생태계에서 안전, 표준화 및 관리 가능성을 최우선으로 한다는 방향성을 반영한다.
