- Hai cơ quan chính phủ Nam Phi là Department of Communications and Digital Technologies và Department of Home Affairs đã đình chỉ tổng cộng 4 quan chức.
- Nguyên nhân là các tài liệu chính sách AI chứa trích dẫn học thuật “không tồn tại”, nghi do AI tạo ra (hallucination).
- Bản dự thảo chính sách AI quốc gia đã bị rút khỏi tham vấn công khai sau khi phát hiện ít nhất 6 nguồn tham khảo giả.
- Một tài liệu khác về nhập cư và quốc tịch cũng bị phát hiện lỗi tương tự dù đã được phê duyệt cấp cao.
- Chính phủ thừa nhận việc sử dụng AI thiếu kiểm soát đã làm tổn hại tính toàn vẹn của tài liệu.
- Các hãng luật độc lập được thuê để điều tra và rà soát toàn bộ tài liệu từ năm 2022.
- Cơ quan chức năng sẽ áp dụng quy trình kiểm tra và khai báo AI bắt buộc trong phê duyệt tài liệu.
- Bộ trưởng Leon Schreiber kêu gọi áp dụng kiểm soát AI trên toàn bộ chính phủ.
- Vụ việc làm dấy lên lo ngại về độ tin cậy của các chính sách công nếu AI bị lạm dụng.
- Nhu cầu cấp thiết: xây dựng cơ chế phát hiện ảo giác và trách nhiệm rõ ràng khi AI gây lỗi.
📌 4 quan chức chính phủ Nam Phi bị đình chỉ dự thảo chính sách AI quốc gia đã bị rút khỏi tham vấn công khai sau khi phát hiện ít nhất 6 nguồn tham khảo giả nghi do AI tạo ra. Sự cố cho thấy rủi ro nghiêm trọng khi dùng AI không kiểm soát trong hoạch định chính sách. Chỉ vài trích dẫn giả cũng đủ khiến tài liệu quốc gia bị rút lại và quan chức bị đình chỉ. Điều này nhấn mạnh rằng AI cần được giám sát chặt chẽ, với quy trình kiểm chứng và trách nhiệm rõ ràng để bảo vệ niềm tin công chúng.
Tổng hợp
