- 가트너는 현재의 AI 모델과 많은 주요 AI 공급업체가 아직 기업 운영에 필요한 요구사항을 충족하지 못하고 있다고 평가했다.
- 가트너 전문가 Daryl Plummer는 AI 기업들이 법적 책임, 안정성, 사업 연속성에 대한 기업의 요구사항을 아직 충분히 이해하지 못하고 있기 때문에 현재 AI 업체를 전적으로 신뢰해서는 안 된다고 주장했다.
- 가트너는 AI 기업들이 모델을 지나치게 자주 변경하고 있으며, 이로 인해 해당 모델에 의존하는 애플리케이션이 중단될 수 있다고 지적했다.
- 하나의 모델 버전이 유지되는 평균 기간은 약 6개월에 불과하며, 공급업체들은 이전 버전에 대한 지원도 제한적으로 제공하고 있다.
- 가트너 조사에 따르면 CIO의 86%는 AI로 인한 리스크가 기술이 제공하는 가치보다 빠르게 증가하고 있다고 답했다.
- 가트너는 직원들이 AI를 불필요하거나 부적절한 상황에서 사용하는 ‘careless consumption’ 현상을 경고했다.
- 약 40%의 근로자가 저품질 AI 콘텐츠를 경험했으며, 직원 1,000명 규모의 기업에서는 각 사례를 처리하는 데 약 2시간이 걸릴 수 있어 연간 약 900만 달러에 해당하는 비용이 발생할 수 있다.
- 가트너는 AI가 기업이 이미 구매한 제품에도 점점 더 많이 포함되면서 사용 중인 Agent의 수를 관리하기 어려워지고 있다고 밝혔다.
- Plummer는 데이터베이스 조회와 같은 단순한 작업에서 기존 함수 호출만으로 충분히 처리할 수 있다면 Agent를 사용하지 말 것을 권고했다.
- 가트너는 많은 공급업체가 추가 제품 판매나 토큰 소비량 증가를 주된 목적으로 AI를 적극적으로 추진하고 있다고 지적했다.
- 가트너는 기업 내에 ‘AI 중앙은행’을 설립해 모든 AI 활동을 감독하고 권한을 관리하며 책임을 맡는 체계를 제안했다.
- 또한 ‘guardian agents’를 배치해 시스템을 감시하고 비정상적으로 작동하는 Agent를 비활성화하며, AI로 인해 발생하는 사고를 처리할 전문 복구팀을 구축할 것을 권고했다.
📌 현재 기업에서 AI가 직면한 가장 큰 과제는 모델의 능력이 아니라 거버넌스다. 가트너는 AI 공급업체들이 여전히 지나치게 빠르게 변화하고 있으며 장기적인 책임과 약속이 부족하고 기업용 기준을 충족하지 못하고 있다고 지적한다. CIO의 86%가 리스크가 가치보다 빠르게 증가한다고 평가하고 40%의 직원이 저품질 AI 콘텐츠를 경험한 만큼, 기업은 AI를 통제 없이 확대하기보다 거버넌스, 모니터링, 책임 체계를 강화해야 한다.
