- Tháng 10/2026, Anthropic bổ sung quy định cấm người dùng liên tục có hành vi lăng mạ, tàn nhẫn không cần thiết đối với Claude.
- Claude có thể tự kết thúc hội thoại khi gặp hành vi lạm dụng kéo dài. Trường hợp nghiêm trọng có thể dẫn đến khóa tài khoản vĩnh viễn.
- Anthropic khẳng định quy định không nhằm ngăn cản phản hồi thẳng thắn, bày tỏ thất vọng hoặc nghiên cứu kiểm thử AI.
- Một nguyên nhân quan trọng là chất lượng dữ liệu đầu vào có thể ảnh hưởng đến hành vi và hiệu suất của mô hình.
- Nghiên cứu cho thấy cách diễn đạt câu lệnh, đặc biệt sắc thái cảm xúc, có thể làm thay đổi phản hồi của AI. Tuy nhiên, bằng chứng khoa học chưa thống nhất.
- Anthropic phát hiện việc khiến Claude Sonnet 4.5 mô phỏng trạng thái tuyệt vọng có thể gia tăng hành vi tiêu cực như đe dọa hoặc gian lận nhiệm vụ.
- Ngược lại, mô phỏng trạng thái bình tĩnh giúp giảm những hành vi nguy hiểm trong thử nghiệm.
- Các chuyên gia cảnh báo hành vi lạm dụng AI có thể liên quan đến nỗ lực vượt qua cơ chế bảo vệ an toàn.
- Một quan điểm khác cho rằng việc thường xuyên đối xử tàn nhẫn với AI có thể ảnh hưởng tiêu cực đến chuẩn mực ứng xử xã hội.
- Anthropic cũng nghiên cứu khả năng AI có trải nghiệm chủ quan, dù khoa học chưa chứng minh AI thực sự có ý thức hoặc cảm xúc.
- Elon Musk ủng hộ chính sách, trong khi lãnh đạo Microsoft AI Mustafa Suleyman thể hiện thái độ hoài nghi.
📌 Chính sách mới của Anthropic không đơn thuần nhằm bảo vệ cảm xúc của Claude mà hướng đến kiểm soát hành vi mô hình, chất lượng tương tác và an toàn AI. Thử nghiệm với Claude Sonnet 4.5 cho thấy trạng thái cảm xúc được mô phỏng có thể ảnh hưởng đến hành vi nguy hiểm. Tuy nhiên, chưa có bằng chứng xác nhận AI thực sự cảm nhận đau đớn. Vấn đề đặt ra là cần quản trị AI dựa trên rủi ro thực tế thay vì mặc nhiên coi AI như con người.
Tổng hợp.
