- 视频剪辑公司Kapwing的一份最新报告显示，AI垃圾内容（AI slop）正在以惊人的速度充斥着TikTok。
- 在面向新用户的“为您推荐”（For You）页面上，近60%的视频是由AI生成或低质量的AI内容。这一比例是新用户在YouTube上看到的AI内容数量的3倍。
- 儿童内容群体是该平台上受害最严重的细分领域。
- Kapwing指出，在整个研究中，儿童（Kids）类别的AI垃圾内容密度最高。标签 #cartoonkids 几乎完全被AI主导。
- 在该标签下抽查的100个视频中，只有3个视频被确认是由人类创作的。
- 研究还发现，如果用户对这类内容表现出兴趣，TikTok的算法会迅速放大AI内容。
- 在账号与AI内容进行互动后，系统会在信息流中持续推荐更多的AI视频。
- 专家警告称，儿童正越来越多地接触到低质量且未经证实的AI内容。
- 文章认为，这一现象可能会对年轻用户的认知能力和信息评估能力产生负面影响。
- 日益逼真的深度伪造（Deepfake）技术也在助长虚假信息和政治宣传的蔓延。
- TikTok并非唯一面临该问题的平台。
- Facebook和Instagram上也出现了越来越多旨在吸引互动的奇特AI图片和视频。
- 去年11月，TikTok宣布推出一项功能，允许用户增加或减少信息流中出现的AI内容数量。
- TikTok表示，许多人仍然喜欢AI创作的内容，例如数字艺术或科学解释视频。
- YouTube也开始扩大对AI内容的标注，以提高透明度。
- 然而，YouTube尚未改变针对AI内容的视频推荐方式或变现政策。
- 根据引用的《纽约时报》文章，著名的深度伪造专家哈尼·法里德（Hany Farid）承认，他已经不再完全相信自己用肉眼分辨真伪的能力。
- 📌 结论： Kapwing的报告表明，AI垃圾内容已成为TikTok生态系统中非常庞大的一部分，向新用户推荐的视频中近60%为AI内容，是YouTube的3倍。最令人担忧的是儿童板块，其中标签 #cartoonkids 的100个视频中仅有3个由人类创作。尽管TikTok和YouTube正在推出控制和标注工具，但AI和深度伪造技术的快速发展使得辨别内容真伪变得越来越困难，甚至连顶级专家也不例外。
