- Doanh nghiệp đang triển khai nhanh agentic AI — các hệ thống AI tự hành động không cần con người chỉ dẫn — nhưng quản trị không theo kịp, tạo ra rủi ro lớn trong quá trình áp dụng.
- Khảo sát hơn 500 chuyên gia dữ liệu của Đại học Drexel cho thấy 41% tổ chức đã dùng agentic AI trong vận hành hằng ngày, không chỉ ở mức thử nghiệm.
- Tuy nhiên, chỉ 27% tổ chức cho rằng khung quản trị của họ đủ trưởng thành để giám sát và kiểm soát các hệ thống này.
- Quản trị ở đây không phải là quy định cứng nhắc, mà là xác định rõ trách nhiệm, cách giám sát hành vi AI và thời điểm con người cần can thiệp.
- Sự lệch pha này trở nên nguy hiểm khi AI tự hành động trong tình huống thực tế trước khi con người kịp phản ứng.
- Ví dụ, trong một vụ mất điện tại San Francisco, robotaxi tự hành bị mắc kẹt ở giao lộ, cản trở xe cứu hộ, dù hệ thống vẫn hoạt động “đúng thiết kế”.
- Trong tài chính, AI phát hiện gian lận có thể tự động chặn giao dịch theo thời gian thực; khách hàng chỉ biết khi thẻ bị từ chối, đặt ra câu hỏi ai chịu trách nhiệm nếu AI sai.
- Nhiều tổ chức có con người “trong vòng lặp”, nhưng chỉ tham gia sau khi AI đã ra quyết định, khiến giám sát mang tính sửa lỗi hơn là chịu trách nhiệm.
- Khi thiếu quản trị từ đầu, các vấn đề nhỏ dễ tích tụ, làm suy yếu niềm tin dù hệ thống không hỏng hóc rõ ràng.
- Khảo sát cho thấy các tổ chức có quản trị tốt chuyển lợi ích ban đầu của AI tự trị thành hiệu quả và tăng trưởng doanh thu dài hạn tốt hơn.
- OECD nhấn mạnh trách nhiệm giải trình và giám sát của con người phải được thiết kế ngay từ đầu, không phải bổ sung sau.
- 📌 Doanh nghiệp đang triển khai nhanh agentic AI như các hệ thống AI tự hành động không cần con người chỉ dẫn nhưng quản trị không theo kịp, tạo ra rủi ro lớn trong quá trình áp dụng. Agentic AI đang được dùng rộng rãi với 41% tổ chức đã đưa vào vận hành, nhưng chỉ 27% có quản trị đủ mạnh. Quản trị ở đây là xác định rõ trách nhiệm, cách giám sát hành vi AI và thời điểm con người cần can thiệp. Nhiều tổ chức có con người “trong vòng lặp”, nhưng chỉ tham gia sau khi AI đã ra quyết định, khiến giám sát mang tính sửa lỗi hơn là chịu trách nhiệm.
Tổng hợp
