- Trung Quốc đã công bố dự thảo quy định mới nhằm kiểm soát các dịch vụ AI có khả năng mô phỏng tính cách con người và tương tác cảm xúc với người dùng, theo Reuters.
- Dự thảo do Cyberspace Administration of China ban hành để lấy ý kiến công chúng, cho thấy Bắc Kinh muốn định hình việc triển khai AI hướng người tiêu dùng theo hướng an toàn và đạo đức hơn.
- Quy định áp dụng cho các sản phẩm AI công khai tại Trung Quốc có biểu hiện tính cách, tư duy và phong cách giao tiếp giống con người.
- Các hình thức tương tác bị điều chỉnh bao gồm văn bản, hình ảnh, âm thanh, video và phương thức đa phương tiện khác.
- Nhà cung cấp AI sẽ phải cảnh báo người dùng về nguy cơ sử dụng quá mức và can thiệp khi phát hiện dấu hiệu nghiện.
- Doanh nghiệp phải chịu trách nhiệm an toàn xuyên suốt vòng đời sản phẩm, từ thiết kế, huấn luyện đến vận hành.
- Dự thảo yêu cầu thiết lập hệ thống rà soát thuật toán, bảo mật dữ liệu và bảo vệ thông tin cá nhân.
- Một trọng tâm lớn là rủi ro tâm lý: nhà cung cấp phải nhận diện trạng thái người dùng, đánh giá cảm xúc và mức độ phụ thuộc vào AI.
- Nếu người dùng thể hiện cảm xúc cực đoan hoặc hành vi gây nghiện, doanh nghiệp phải có biện pháp can thiệp cần thiết.
- Quy định cũng đặt “lằn ranh đỏ” về nội dung: AI không được tạo nội dung đe dọa an ninh quốc gia, lan truyền tin đồn, hay cổ súy bạo lực và khiêu dâm.
- Động thái này diễn ra trong bối cảnh AI tương tác ngày càng giống con người, từ chatbot cảm xúc đến robot hình người trong các khu công nghiệp công nghệ cao ở Bắc Kinh.
📌 Dự thảo quy định mới cho thấy Trung Quốc muốn kiểm soát chặt AI có tương tác cảm xúc, coi rủi ro tâm lý và nghiện là vấn đề trọng yếu. Với yêu cầu đánh giá cảm xúc người dùng, cảnh báo sử dụng quá mức và can thiệp chủ động, Bắc Kinh đang đặt nền tảng pháp lý sớm cho AI “giống con người”. Điều này có thể định hình cách các doanh nghiệp AI thiết kế sản phẩm tại Trung Quốc và ảnh hưởng đến chuẩn mực quản lý AI toàn cầu trong tương lai.
Tổng hợp.
