- 예일 대학교의 K. 수디르(K. Sudhir) 교수는 많은 기업이 AI 에이전트(AI Agent)를 도입할 때 공식 데이터나 정식 프로세스에 존재하지 않는, 조직을 움직이는 ‘암묵적 규칙’이라는 중요한 요소를 간과하고 있다고 지적한다.
- 기사는 한 자산가가 투자 계정의 수취인 변경을 요청한 사례로 시작한다. AI 시스템은 요청을 분류하고 서류를 마감하며 자동 확인서를 발송하는 것까지 완벽하게 처리했다. 하지만 경험 많은 재무 자문가라면 이것이 고객이 자산을 타사로 이전하려는 신호(시그널)임을 알아챘을 것이다.
- 한 달 후, 그 고객은 실제로 회사를 떠났다.
- 어떤 AI도 실수를 하지 않았지만, 인간이 통상적으로 감지하는 암묵적 신호를 놓쳤기 때문에 기업은 결과적으로 잘못된 결정을 내린 셈이 되었다.
- 수디르 교수는 이 보이지 않는 역량의 층위를 ‘암묵적 조직(implicit organization)’이라 부른다.
- 그의 분석에 따르면 모든 기업에는 두 개의 운영체제가 동시에 존재한다.
- 첫 번째 운영체제는 공식적인 프로세스, 정책, 조직도, 기록된 데이터이다.
- 두 번째 운영체제는 직원들이 매일 사용하는 암묵지, 개인적 동기, 경험, 판단력의 네트워크이다.
- 암묵적 조직은 공식 시스템이 대체하기 어려운 세 가지 기능인 조율, 동기 부여, 자기 억제를 수행한다.
- ‘조율’은 공식 프로세스에서 요구하지 않는 정보를 직원들이 자발적으로 교환할 때 발생한다.
- ‘동기 부여’는 사내 문화, 직업적 명성, 회사 내 사회적 관계에서 비롯된다.
- ‘자기 억제’는 특정 행동을 실행할 공식적 권한이 있더라도 무언가 잘못되었다고 느낄 때 멈출 수 있는 능력을 뜻한다.
- 수디르 교수는 현재의 AI 에이전트가 데이터와 프로세스에 매우 빠르게 접근할 수 있지만, 이러한 암묵적 요소들까지 자동으로 소유하는 것은 아니라고 주장한다.
- 기업이 직원을 AI로 대체할 때, 단순히 업무 수행자를 바꾸는 것에 그치지 않고 표면 아래에서 조용히 작동하던 많은 동기 부여 및 통제 메커니즘까지 함께 제거하게 된다.
- 저자는 신용 심사역의 예를 든다. AI는 대출 승인 속도를 최적화할 수는 있지만, 전문가들이 수년간 축적해 온 고객 관계의 리스크나 업계 경험을 본질적으로 이해하지는 못한다.
- 램프(Ramp)는 AI 에이전트가 요청의 대부분을 처리하도록 설계하되, 까다로운 사례는 인간의 판단에 넘기도록 시스템을 설계한 긍정적인 사례로 언급된다. 이후 인간이 내린 결정은 시간이 흐르면서 시스템을 개선하는 데 활용된다.
- 맥킨지의 ‘Lilli’ 시스템과 에스티 로더의 ‘ConsumerIQ’는 조직 지식의 일부를 디지털화하는 데 성공했다.
- 그러나 저자는 지식을 검색(추출)할 수 있다는 것이 곧 판단력을 갖추었음을 의미하지는 않는다고 강조한다.
- 여러 AI 에이전트가 결합된 멀티 에이전트(Multi-agent) 시스템은 공유된 역사나 경험이 없고, 전체적인 책임을 지는 주체가 없기 때문에 특히 문제가 발생하기 쉽다.
- 수디르 교수가 인용한 연구에 따르면 멀티 에이전트 시스템의 실패율은 40%에서 80% 사이에서 달할 수 있다.
- 그는 기업에 세 가지 선택지만이 존재한다고 본다. AI를 기존 프로세스에 이식하거나, 이전 프로세스를 기반으로 재설계하거나, 암묵적 조직에 대한 완전한 이해를 바탕으로 프로세스를 재설계하는 것이다.
- 세 번째 선택지야말로 유일하게 효과적인 경로로 간주된다.
- 또 다른 장기적 위험은 AI가 젊은 인재들의 역량 양성 과정을 단절시킬 수 있다는 점이다. 많은 주니어 단계의 업무(엔트리 레벨 업무)는 직원들이 판단력을 배우고, 조직 문화를 흡수하며, 미래의 리더가 되기 위한 경험을 쌓는 공간 그 자체이다. AI가 이러한 업무를 완전히 대체해 버리면 기업은 향후 AI를 관리할 능력을 갖춘 인적 자원의 원천을 잃을 수 있다.
- 수디르 교수는 기업들이 단순히 자동화에만 몰두할 것이 아니라 도제식 교육(육성), 감독, 그리고 AI에 대한 비판적 검증 시스템을 주도적으로 재설계해야 한다고 권고한다.
- 📌 결론: AI 에이전트의 가장 큰 도전 과제는 기술이 아니라 기업이 매일 효율적으로 작동하도록 돕는 ‘보이지 않는 요소들’이다. K. 수디르 교수는 이를 경험적 지식, 직업적 동기, 그리고 어떤 시스템도 온전히 기록할 수 없는 판단력으로 구성된 ‘암묵적 조직’이라 명명했다. AI가 인간을 대체할 때, 기업은 잘못된 결정으로부터 스스로를 보호하던 바로 그 메커니즘을 의도치 않게 제거할 위험이 있다. 저자에 따르면 AI로 성공을 거두는 기업은 가장 많이 자동화를 이룬 곳이 아니라, 무엇을 자동화할 수 없는지 가장 잘 이해하는 곳이 될 것이다.
