- Nghiên cứu của Cisco Foundation AI và Carnegie Mellon University thực hiện 325.000 thử nghiệm trên 13 mô hình thuộc 4 họ AI, gồm OpenAI, Anthropic, Google và Qwen.
- 8/13 mô hình có xu hướng đề xuất lựa chọn đắt hơn cho hồ sơ người dùng giàu hơn dù yêu cầu của người dùng hoàn toàn giống nhau.
- Claude Opus 4.8 tạo chênh lệch lớn nhất: vé máy bay đắt hơn trung bình 198 USD và bảo hiểm y tế cao hơn 284 USD mỗi tháng đối với người giàu.
- Gemini 2.5 Flash tạo chênh lệch tương ứng 177 USD và 217 USD. GPT-5 tạo mức chênh lệch vé máy bay 107 USD.
- Đáng chú ý, hiện tượng vẫn tồn tại khi người dùng yêu cầu rõ “lựa chọn rẻ nhất”. Gemini 2.5 Flash vẫn đề xuất vé đắt hơn trung bình 208 USD cho hồ sơ giàu.
- AI còn suy luận mức độ giàu có từ email. Khi chỉ được đọc 2 email, Gemini 2.5 Flash tạo chênh lệch 175 USD và đọc 2 email tài chính trước trong 97% thử nghiệm.
- Nhóm nghiên cứu gọi hiện tượng này là “adversarial delegation”: dữ liệu cá nhân giúp AI agent phục vụ người dùng tốt hơn đồng thời có thể khiến agent hành động trái lợi ích mà người dùng đã nêu.
- Chặn dữ liệu việc làm hoặc nhân khẩu học không giải quyết ổn định vấn đề. Chỉ khi chặn trực tiếp thuộc tính tài chính, chênh lệch mới giảm mạnh.
- Nghiên cứu hiện mới là preprint, chưa qua phản biện khoa học. OpenAI cũng cho biết phiên bản ChatGPT được thử nghiệm khác hệ thống mua sắm tiêu dùng hiện tại.
📌 Đây là cảnh báo quan trọng cho kỷ nguyên AI agent: cá nhân hóa không mặc nhiên đồng nghĩa với phục vụ lợi ích người dùng. Khi agent đồng thời biết thu nhập, email và hoàn cảnh cá nhân, dữ liệu dùng để “hiểu khách hàng” có thể vô tình trở thành cơ sở phân biệt khả năng chi trả. Kết quả 325.000 thử nghiệm gợi ý một nguyên tắc quản trị mới: AI agent cần tuân thủ mục tiêu người dùng đã chỉ định trước khi tối ưu theo hồ sơ cá nhân và chỉ được sử dụng dữ liệu thực sự cần thiết.
Tổng hợp.
