- Một lo ngại phổ biến là AI tạo sinh kế thừa thiên lệch từ dữ liệu huấn luyện, nhưng bài phân tích cho rằng đó chỉ là bề nổi của vấn đề.
- Thiên lệch trong AI còn xuất phát từ thiên lệch nhận thức của con người, được hình thành trong toàn bộ hệ sinh thái tương tác giữa người và máy.
- Cách con người suy nghĩ, đặt câu hỏi, đánh giá và sử dụng kết quả AI có thể định hình hành vi của hệ thống và khuếch đại thiên lệch theo thời gian.
- Thiên lệch nhận thức là các “lối tắt” tư duy giúp ra quyết định nhanh, nhưng dễ dẫn đến phán đoán sai, bỏ sót dữ liệu quan trọng hoặc củng cố niềm tin sẵn có.
- AI không chỉ bị ảnh hưởng bởi con người mà còn tác động ngược lại, âm thầm củng cố thiên lệch của người dùng qua các phản hồi lặp đi lặp lại.
- Thiên lệch có thể xuất hiện ở ba giai đoạn: trước khi prompt, trong khi prompt và sau khi prompt.
- Trước khi prompt, hiệu ứng hào quang hay định kiến tiêu cực khiến người dùng tin tưởng hoặc nghi ngờ AI quá mức, dựa trên trải nghiệm hay tin tức trước đó.
- Thiên kiến xác nhận có thể khiến người dùng đặt sai vấn đề ngay từ đầu, dùng AI để “chứng minh” điều họ đã tin sẵn.
- Trong khi prompt, các câu hỏi dẫn dắt thiên kiến làm méo mó đầu ra, còn expediency bias (ưu tiên sự nhanh chóng, tiện lợi và “đủ dùng”, thay vì độ chính xác hay chất lượng tối ưu) khiến người dùng chấp nhận kết quả “đủ dùng” vì áp lực thời gian.
- Sau khi prompt, endowment effect (hiệu ứng sở hữu: xu hướng đánh giá cao hơn giá trị của một thứ chỉ vì mình “sở hữu” hoặc đã bỏ công sức tạo ra nó) khiến người dùng đánh giá quá cao kết quả do chính mình tạo ra cùng AI.
- Framing effect (hiệu ứng khung: xu hướng ra quyết định khác nhau tùy theo cách thông tin được trình bày, dù nội dung thực chất giống nhau) ảnh hưởng mạnh đến cách kết quả AI được trình bày và cách người khác tiếp nhận, dù nội dung thực chất không đổi.
- Giải pháp không phải loại bỏ thiên lệch hoàn toàn, mà là nâng cao nhận thức, rèn tư duy phản biện và xây dựng quy trình tổ chức hỗ trợ quyết định chất lượng cao.
📌 Bài viết của Harvard nhấn mạnh rằng thiên lệch trong AI không chỉ là vấn đề kỹ thuật mà là vấn đề hành vi con người. Khi AI ngày càng tham gia sâu vào quyết định quan trọng, cách chúng ta đặt câu hỏi, đánh giá và hành động với kết quả AI có thể làm khuếch đại sai lệch một cách âm thầm. Bằng việc chậm lại, phản tư có chủ đích và thiết kế hệ thống khuyến khích tư duy phản biện, AI có thể trở thành đối tác ra quyết định tốt hơn thay vì là “loa phóng đại” cho định kiến của chính chúng ta.
Tổng hợp.
