- Giáo sư K. Sudhir của Yale cho rằng nhiều doanh nghiệp đang đánh giá thấp một yếu tố quan trọng khi triển khai AI Agent: những quy tắc ngầm vận hành tổ chức mà không tồn tại trong dữ liệu hay quy trình chính thức.
- Bài viết mở đầu bằng ví dụ một khách hàng giàu có yêu cầu cập nhật người thụ hưởng tài khoản đầu tư. Hệ thống AI xử lý hoàn hảo: phân loại yêu cầu, hoàn tất thủ tục và gửi xác nhận tự động. Tuy nhiên, một cố vấn tài chính giàu kinh nghiệm có thể nhận ra đây là tín hiệu cho thấy khách hàng đang cân nhắc chuyển tài sản sang tổ chức khác.
- Một tháng sau, khách hàng thực sự rời bỏ công ty.
- Không AI nào làm sai, nhưng doanh nghiệp vẫn đưa ra quyết định sai vì bỏ lỡ các tín hiệu ngầm mà con người thường nhận biết được.
- Sudhir gọi lớp năng lực vô hình này là “implicit organization” – tổ chức ngầm.
- Theo ông, mọi doanh nghiệp đều tồn tại đồng thời hai hệ điều hành.
- Hệ điều hành thứ nhất là quy trình chính thức, chính sách, sơ đồ tổ chức và dữ liệu được ghi chép.
- Hệ điều hành thứ hai là mạng lưới kiến thức ngầm, động lực cá nhân, kinh nghiệm và khả năng phán đoán mà nhân viên sử dụng mỗi ngày.
- Tổ chức ngầm thực hiện 3 chức năng mà hệ thống chính thức khó thay thế: điều phối, tạo động lực và tự kiềm chế.
- Điều phối xuất hiện khi nhân viên tự trao đổi thông tin mà quy trình không yêu cầu.
- Động lực đến từ văn hóa, danh tiếng nghề nghiệp và các mối quan hệ xã hội trong công ty.
- Tự kiềm chế là khả năng dừng lại khi cảm thấy điều gì đó không ổn dù vẫn có quyền thực hiện hành động đó.
- Sudhir cho rằng AI Agent hiện có thể tiếp cận dữ liệu và quy trình rất nhanh nhưng không tự động sở hữu các yếu tố ngầm này.
- Khi doanh nghiệp thay thế nhân viên bằng AI, họ không chỉ thay đổi người thực hiện công việc mà còn loại bỏ nhiều cơ chế động lực và kiểm soát vốn hoạt động âm thầm bên dưới.
- Tác giả lấy ví dụ về các nhân viên thẩm định tín dụng. Một AI có thể tối ưu tốc độ phê duyệt khoản vay nhưng không tự hiểu được những rủi ro quan hệ khách hàng hay kinh nghiệm ngành nghề mà chuyên gia tích lũy qua nhiều năm.
- Ramp được nêu như một ví dụ tích cực khi thiết kế AI Agent để xử lý phần lớn yêu cầu nhưng chuyển các trường hợp khó cho con người đánh giá. Những quyết định của con người sau đó được dùng để cải thiện hệ thống theo thời gian.
- McKinsey với hệ thống Lilli và Estée Lauder với ConsumerIQ đã thành công trong việc số hóa một phần kiến thức tổ chức.
- Tuy nhiên, tác giả nhấn mạnh rằng việc truy xuất tri thức không đồng nghĩa với khả năng phán đoán.
- Các hệ thống đa AI Agent đặc biệt dễ gặp sự cố vì chúng thiếu lịch sử chung, thiếu kinh nghiệm và không có ai thực sự chịu trách nhiệm tổng thể.
- Sudhir dẫn nghiên cứu cho thấy tỷ lệ thất bại của các hệ thống đa Agent có thể dao động từ 40% đến 80%.
- Ông cho rằng doanh nghiệp chỉ có 3 lựa chọn: đưa AI vào quy trình hiện tại, tái thiết kế dựa trên quy trình cũ hoặc tái thiết kế dựa trên hiểu biết đầy đủ về tổ chức ngầm.
- Phương án thứ ba được xem là con đường hiệu quả duy nhất.
- Một rủi ro dài hạn khác là AI có thể phá vỡ quá trình đào tạo nhân tài trẻ. Nhiều công việc cấp đầu vào vốn là nơi nhân viên học cách phán đoán, hấp thụ văn hóa và tích lũy kinh nghiệm để trở thành lãnh đạo tương lai. Nếu AI thay thế hoàn toàn các công việc đó, doanh nghiệp có thể mất đi nguồn nhân lực có khả năng quản lý AI trong tương lai.
- Sudhir khuyến nghị các doanh nghiệp phải chủ động thiết kế lại hệ thống học việc, giám sát và phản biện AI thay vì chỉ tập trung vào tự động hóa.
📌 Thách thức lớn nhất của AI Agent không phải là công nghệ mà là những yếu tố vô hình đang giúp doanh nghiệp vận hành hiệu quả mỗi ngày. K. Sudhir gọi đó là “tổ chức ngầm”, gồm kiến thức kinh nghiệm, động lực nghề nghiệp và khả năng phán đoán mà không hệ thống nào ghi chép đầy đủ. Khi AI thay thế con người, doanh nghiệp có nguy cơ vô tình loại bỏ chính những cơ chế đang bảo vệ mình khỏi các quyết định sai lầm. Theo tác giả, các công ty thành công với AI sẽ không phải là những nơi tự động hóa nhiều nhất mà là những nơi hiểu rõ nhất điều gì không thể tự động hóa.
Tổng hợp
