- Báo cáo mới từ công ty chỉnh sửa video Kapwing cho thấy AI slop đang tràn ngập TikTok ở mức đáng báo động.
- Gần 60% video xuất hiện trên trang đề xuất “For You” dành cho người dùng mới là nội dung do AI tạo ra hoặc nội dung AI chất lượng thấp. Tỷ lệ này cao gấp 3 lần lượng nội dung AI mà người dùng mới nhìn thấy trên YouTube.
- Nhóm nội dung trẻ em là phân khúc bị ảnh hưởng nghiêm trọng nhất trên nền tảng.
Kapwing xác định danh mục Kids có mật độ AI slop cao nhất trong toàn bộ nghiên cứu. Hashtag #cartoonkids gần như bị AI thống trị hoàn toàn. - Trong 100 video được kiểm tra thuộc hashtag này, chỉ có 3 video được xác nhận do con người tạo ra.
- Nghiên cứu cũng phát hiện thuật toán TikTok sẽ nhanh chóng khuếch đại nội dung AI nếu người dùng thể hiện sự quan tâm tới loại nội dung này.
- Sau khi tài khoản tương tác với nội dung AI, hệ thống tiếp tục đề xuất nhiều video AI hơn trong nguồn cấp dữ liệu.
- Các chuyên gia cảnh báo trẻ em đang tiếp xúc ngày càng nhiều với nội dung AI chất lượng thấp và thiếu kiểm chứng.
- Bài viết cho rằng hiện tượng này có thể ảnh hưởng tiêu cực tới khả năng nhận thức và đánh giá thông tin của người dùng trẻ tuổi.
- Deepfake ngày càng chân thực cũng đang góp phần lan truyền thông tin sai lệch và tuyên truyền chính trị.
- TikTok không phải nền tảng duy nhất gặp vấn đề này.
- Facebook và Instagram cũng xuất hiện ngày càng nhiều hình ảnh và video AI kỳ lạ nhằm thu hút tương tác.
- Tháng 11 năm trước, TikTok công bố tính năng cho phép người dùng tăng hoặc giảm lượng nội dung AI xuất hiện trong nguồn cấp dữ liệu.
- TikTok cho biết nhiều người vẫn yêu thích các nội dung được tạo bằng AI như nghệ thuật số hoặc video giải thích khoa học.
- YouTube cũng bắt đầu mở rộng việc gắn nhãn nội dung AI để tăng tính minh bạch.
- Tuy nhiên, YouTube chưa thay đổi cách đề xuất video hoặc chính sách kiếm tiền đối với nội dung AI.
- Theo bài viết của New York Times được trích dẫn, chuyên gia deepfake nổi tiếng Hany Farid thừa nhận ông đã không còn hoàn toàn tin tưởng vào khả năng phân biệt bằng mắt thường của mình.
📌 Báo cáo của Kapwing cho thấy AI slop đã trở thành một phần rất lớn trong hệ sinh thái TikTok, khi gần 60% video được đề xuất cho người dùng mới là nội dung AI, cao gấp 3 lần YouTube. Đáng lo ngại nhất là mảng trẻ em, nơi hashtag #cartoonkids chỉ có 3/100 video do con người tạo ra. Trong khi TikTok và YouTube đang triển khai các công cụ kiểm soát và gắn nhãn, sự phát triển nhanh của AI và deepfake khiến việc phân biệt nội dung thật – giả ngày càng khó khăn, ngay cả với các chuyên gia hàng đầu.
Tổng hợp
