- 영상 편집 기업 캡윙(Kapwing)의 새로운 보고서에 따르면, AI 쓰레기 콘텐츠(AI slop)가 우려할 만한 수준으로 틱톡을 뒤덮고 있다.
- 신규 사용자를 위한 ‘For You'(추천) 페이지에 나타나는 영상의 약 60%가 AI 생성 콘텐츠이거나 저품질 AI 콘텐츠이다. 이 비율은 신규 사용자가 유튜브에서 보게 되는 AI 콘텐츠 양의 3배에 달한다.
- 아동용 콘텐츠 그룹은 플랫폼에서 가장 심각하게 영향을 받고 있는 부문이다.
- 캡윙은 조사 전체에서 키즈(Kids) 카테고리가 AI 쓰레기 콘텐츠 밀도가 가장 높다고 특정했다. 해시태그 #cartoonkids는 거의 완전히 AI에 의해 장악되었다.
- 이 해시태그에 속한 검증된 100개의 영상 중, 인간이 제작한 것으로 확인된 영상은 단 3개에 불과했다.
- 연구에 따르면, 사용자가 AI 콘텐츠에 관심을 보일 경우 틱톡의 알고리즘이 이를 빠르게 증폭시키는 것으로 나타났다.
- 계정이 AI 콘텐츠와 상호작용(인게이지)을 하고 나면, 시스템은 피드에 더 많은 AI 영상을 계속해서 추천한다.
- 전문가들은 아동들이 저품질의 검증되지 않은 AI 콘텐츠에 점점 더 많이 노출되고 있다고 경고한다.
- 기사는 이러한 현상이 젊은 사용자들의 인지 능력과 정보 평가 능력에 부정적인 영향을 미칠 수 있다고 지적한다.
- 갈수록 정교해지는 딥페이크(Deepfake) 역시 허위 정보 확산과 정치적 선동에 기여하고 있다.
- 이 문제를 겪고 있는 것은 틱톡만이 아니다.
- 페이스북과 인스타그램에서도 반응을 이끌어내기 위한 기괴한 AI 이미지와 영상이 점점 더 많이 나타나고 있다.
- 지난 11월, 틱톡은 사용자가 피드에 표시되는 AI 콘텐츠의 양을 늘리거나 줄일 수 있는 기능을 발표했다.
- 틱톡 측은 디지털 아트나 과학 해설 영상처럼 AI로 만든 콘텐츠를 여전히 좋아하는 사람들이 많다고 밝혔다.
- 유튜브 또한 투명성을 높이기 위해 AI 콘텐츠에 대한 라벨링 확대를 시작했다.
- 그러나 유튜브는 AI 콘텐츠에 대한 영상 추천 방식이나 수익화 정책을 아직 변경하지 않았다.
- 인용된 뉴욕타임스 기사에 따르면, 유명한 딥페이크 전문가 하니 파리드(Hany Farid)는 이제 육안으로 진위를 구별하는 자신의 능력을 더 이상 완전히 신뢰하지 않는다고 인정했다.
- 📌 결론: 캡윙의 보고서는 신규 사용자에게 추천되는 영상의 약 60%가 AI 콘텐츠로 유튜브의 3배에 달하는 등, AI 쓰레기 콘텐츠가 틱톡 생태계에서 거대한 부분을 차지하게 되었음을 보여준다. 가장 우려스러운 부분은 아동 부문으로, #cartoonkids 해시태그에서 인간이 만든 영상은 100개 중 3개에 불과했다. 틱톡과 유튜브가 통제 및 라벨링 툴을 도입하고 있지만, AI와 딥페이크의 빠른 진화는 최고의 전문가들조차 진짜와 가짜 콘텐츠를 구별하는 것을 점점 더 어렵게 만들고 있다.
VIET NAM CONSULTING AND MEASUREMENT JOINT STOCK COMPANY
© 2026 Vietmetric