- Bài viết lập luận rằng câu hỏi quan trọng không phải AI có đáng tin hay không mà là hệ thống được thiết kế thế nào để kiểm soát sai sót của cả AI và con người.
- Tác giả cho rằng mô hình ngôn ngữ lớn có thể bịa thông tin, suy luận sai và lấp đầy khoảng trống bằng giả định, nhưng trí nhớ con người cũng thường xuyên tái tạo ký ức thay vì lưu giữ chính xác.
- Ví dụ cá nhân về ký ức biểu diễn trong vở nhạc kịch trung học nhưng thực tế chỉ tham gia dựng bối cảnh minh họa sự thiếu chính xác của trí nhớ.
- Ngành hàng không đạt mức an toàn rất cao nhờ danh sách kiểm tra, cơ chế dự phòng, hộp đen và điều tra cả những sự cố suýt xảy ra.
- Y học cũng cải thiện kết quả điều trị nhờ quy trình chẩn đoán chuẩn hóa và đánh giá độc lập thay vì chỉ dựa vào kinh nghiệm cá nhân.
- Trong doanh nghiệp, nhiều quyết định vẫn phụ thuộc đào tạo, kinh nghiệm và trực giác nên khó truy vết sai sót.
- Tổng quan hệ thống năm 2024 trên Science Advances phân tích 77 nghiên cứu cho thấy đào tạo chống thiên kiến có hiệu quả hạn chế.
- Những yếu tố hiệu quả hơn gồm quy trình rõ ràng, tiêu chí chuẩn hóa, giảm quyền tùy ý và nhắc nhở ngay tại thời điểm ra quyết định, cũng là nền tảng quản trị AI hiệu quả.
📌 AI và con người đều không hoàn hảo nên không nên đặt niềm tin tuyệt đối vào bất kỳ bên nào. Thay vì chỉ tập trung vào độ chính xác của AI, các tổ chức cần xây dựng quy trình minh bạch, tiêu chuẩn nhất quán, cơ chế giám sát và kiểm soát sai sót tương tự ngành hàng không và y học. Nghiên cứu năm 2024 với 77 công trình cũng củng cố rằng thiết kế hệ thống hiệu quả quan trọng hơn việc chỉ thay đổi nhận thức cá nhân.
Tổng hợp.
