- 한때 직원들에게 AI 사용을 강력히 독려했던 기업들이 비용 상승을 이유로 사용을 제한하기 시작했다.
- 아마존(Amazon), 월마트(Walmart), 시스코(Cisco), 우버(Uber), 메타(Meta) 등이 AI 지출 통제 조치를 이미 도입한 기업들에 포함된다.
- 일부 기업은 사용량 제한을 적용하거나, 더 저렴한 모델 사용을 권장하거나, 낭비적인 AI 사용을 차단하고 있다.
- 이러한 추세는 기업의 AI 도입 프로세스에서 새로운 단계의 시작을 나타낸다.
- 이전에는 대부분의 직원이 주로 AI 챗봇(chatbot)을 사용했다.
- 현재는 복잡한 작업을 자동으로 수행할 수 있는 ‘AI 에이전트(AI Agent)’를 도입하는 기업이 늘고 있다.
- 하지만 AI 에이전트는 일반 챗봇에 비해 현저히 많은 컴퓨팅 자원을 소비한다.
- 오픈AI(OpenAI)와 앤스로픽(Anthropic)이 많은 서비스를 고정 구독제 형태에서 토큰(token)당 과금 방식으로 전환하면서 비용 압박이 급격히 커졌다.
- 딜로이트(Deloitte)의 전문가 코스티 페리코스(Costi Perricos)는 AI 컴퓨팅 비용이 이제 최고재무책임자(CFO)와 이사회가 우려하는 핵심 사안이 되었다고 밝혔다.
- 오픈AI의 CEO 샘 올트먼(Sam Altman) 역시 2026년 들어 비용이 고객들에게 “매우 큰 문제”가 되었음을 인정했다.
- 우버는 AI 지출이 그에 상응하는 가치를 창출하고 있음을 입증하기가 점점 더 어려워지고 있다고 밝혔다. 우버는 이미 4월에 2026년 전체 AI 예산을 소진했다. 이에 따라 우버는 직원이 사용하는 각 AI 툴에 대해 월 약 1,500달러의 토큰 비용 한도를 적용했다.
- 월마트 역시 사내 AI 시스템에서 사용되는 토큰의 양을 제한하고 있다. 월마트의 최고기술책임자(CTO)는 사내 AI 프로그래밍 플랫폼의 사용률이 너무 빠르게 증가했다고 지적했다.
- 시스코는 AI 에이전트가 챗봇보다 훨씬 더 거대한 인프라 자원을 소비한다고 경고했다. 시스코에 따르면, 향후 직원 1인당 10개에서 1,000개의 AI 에이전트의 지원을 받게 될 수 있다.
- 골드만삭스(Goldman Sachs)는 전 세계 AI 토큰 사용량이 2030년까지 24배 증가할 것으로 예측했다. 골드만삭스는 또한 컴퓨팅 수요의 급증이 향후 12~18개월 내에 칩 부족 현상을 심화시킬 수 있다고 경고했다.
- 이러한 비용 압박은 대규모 IPO 계획을 앞두고 있는 앤스로픽과 오픈AI 같은 AI 기업들의 성장 전망에 영향을 미칠 수 있다.
- 오픈라우터(OpenRouter)의 데이터에 따르면, 2026년 초부터 중국의 AI 모델들이 토큰 사용량 면에서 미국 모델들을 추월했다.
- 중국 AI 기업들은 상대적으로 낮은 에너지 비용과 더 효율적인 모델의 이점을 누리고 있다.
- 소프트웨어 기업 워카토(Workato)는 앤스로픽이 토큰 과금 모델로 전환한 지 단 하루 만에 자사의 AI 비용이 7배 증가했다고 밝혔다. 워카토의 최고정보책임자(CIO)는 이 상황을 두고 “우리가 괴물을 만들었다”고 표현했다. 사용을 전면 제한하는 대신, 워카토는 직원들에게 구형이면서 더 저렴한 AI 모델로 전환할 것을 권장하고 있다.
- 아마존은 한때 사내 리더보드(순위)를 올리기 위한 목적으로만 AI를 사용하지 말라고 직원들에게 경고해야 했다.
- 메타 또한 4월부터 AI 사용에 대한 인센티브 프로그램을 조정했다.
- 마이크로소프트(Microsoft), 아마존, 구글(Google)은 현재 비용 절감을 위해 요청을 가장 적합한 모델로 자동 라우팅(연결)하는 툴을 개발 중이다.
- 일부 기업은 AI 벤더사에 지불하는 청구서를 줄이기 위해 자체 인프라에서 구동되는 오픈소스(open-source) 모델 사용으로 선회하고 있다.
- 그럼에도 불구하고 많은 기업이 AI 투자를 지속하는 이유는, 이미 투자자들에게 생산성 향상 및 운영 효율화에 대해 공언했기 때문이다.
- 📌 결론: AI를 둘러싼 논쟁은 “AI를 도입할 것인가 말 것인가”에서 “AI가 비용만큼의 가치가 있는가”로 이동하고 있다. 강력한 사용 장려 단계를 거친 후, 우버, 월마트, 아마존, 시스코와 같은 많은 대기업은 AI 청구서가 빠르게 증가함에 따라 제한을 가하거나 정책을 변경하기 시작했다. 토큰 과금 모델로의 전환은 많은 기업으로 하여금 AI 에이전트의 실제 비용이 예상보다 훨씬 높을 수 있음을 깨닫게 했다. 골드만삭스가 2030년까지 전 세계 토큰 사용량이 24배 폭증할 것으로 전망하는 가운데, AI 비용 관리는 대규모 AI 도입 단계에 접어든 기업들에 가장 큰 도전 과제 중 하나가 되고 있다.
Previous ArticleAI 에이전트가 모든 프로세스를 완벽히 수행하더라도 대형 고객을 잃을 수 있는 이유
Next Article TikTok, AI에 ‘점령’되다: 신규 사용자 추천 영상의 약 60%가 AI 쓰레기 콘텐츠

