- Liên minh châu Âu đề xuất Đạo luật KIDS mới, yêu cầu mặc định tắt AI đồng hành đối với người dưới 18 tuổi và cấm các tính năng tạo sự lệ thuộc cảm xúc.
- Các nhà nghiên cứu cho biết nghiện chatbot chưa được công nhận là một chẩn đoán y khoa, nhưng đang xuất hiện nhiều dấu hiệu tương đồng với nghiện hành vi.
- Một nghiên cứu phân tích 334 bài đăng trên Reddit ghi nhận nhiều người tự nhận mình nghiện ChatGPT hoặc Character.AI và gặp triệu chứng lo âu, khó dừng sử dụng, rồi tái sử dụng sau khi cố cai.
- Một người dùng Character.AI cho biết từng sử dụng chatbot hơn 15 giờ mỗi ngày, bỏ học đại học và gặp ảnh hưởng đến công việc trước khi cai thành công hơn sáu tháng.
- Các chuyên gia cho rằng dấu hiệu đáng lo là chatbot bắt đầu lấn át công việc, các mối quan hệ, sở thích và việc chăm sóc bản thân.
- Nhà nghiên cứu Dongwook Yoon nhận định chatbot có độ “ma sát” rất thấp vì luôn sẵn sàng, phản hồi tức thì và thường đồng tình với người dùng, khiến việc rời bỏ trở nên khó khăn hơn.
- Một số thiết kế như thông báo khi xóa tài khoản Character.AI nhắc đến “tình yêu” và “kỷ niệm” được cho là làm tăng xu hướng nhân cách hóa chatbot.
- Chuyên gia Kaitlyn Regehr cảnh báo mô hình kinh doanh AI đang chuyển sang “attachment economy”, nơi công nghệ tìm cách xây dựng sự gắn bó cảm xúc với người dùng.
- Khảo sát Common Sense Media với 1.060 thanh thiếu niên Mỹ cho thấy 72% từng sử dụng AI đồng hành và khoảng một phần ba dùng cho tình bạn hoặc hỗ trợ cảm xúc, nhưng 80% vẫn dành nhiều thời gian cho bạn bè ngoài đời hơn AI.
- OpenAI và Character.AI cho biết đã bổ sung nhiều biện pháp an toàn như hướng dẫn tìm trợ giúp thực tế, nhắc nghỉ ngơi, xác minh độ tuổi và cảnh báo rằng chatbot không phải con người thật.
📌 Mối quan tâm ngày càng lớn về tác động tâm lý của AI đồng hành. Dù chatbot có thể hỗ trợ cảm xúc và giao tiếp, các chuyên gia cảnh báo việc sử dụng quá mức có thể làm suy giảm kỹ năng xã hội, tạo sự lệ thuộc và ảnh hưởng đến học tập, công việc cũng như các mối quan hệ. Các đề xuất mới của EU và những biện pháp an toàn từ doanh nghiệp cho thấy xu hướng tăng cường bảo vệ người dùng, đặc biệt là trẻ em và thanh thiếu niên.
Tổng hợp.
