Fusion5는 무료 또는 보조금을 받는 AI 시기가 끝났다고 경고했다. 공급업체들이 토큰 기반 과금 모델로 전환함에 따라, AI 운영 비용은 기업의 주요 예산 항목이 될 것이다.
Fusion5의 CEO 크리스티 브라운(Kristy Brown)은 지난 3년 동안 기업들이 AI 기업들이 자금을 지원한 “역사상 가장 비싼 기술 실험”의 혜택을 사실상 누려왔지만, 이제 비용이 점차 고객에게 전가되고 있다고 밝혔다.
Claude, Gemini, Microsoft Copilot 및 다양한 코딩 또는 고객 서비스 에이전트와 같은 도구들은 토큰 기반 과금 모델 또는 구독과 사용량 기반 요금의 조합을 채택하고 있다.
브라운 씨에 따르면, 기존 소프트웨어와 달리 모든 프롬프트, 모든 추론 단계, 그리고 AI 에이전트의 모든 작업은 실제 비용을 발생시킨다. 자율형 에이전트는 기업을 대신하여 거래를 실행하거나 결정을 내릴 수도 있다.
추론 루프에 갇힌 에이전트는 누군가 발견하기 전에 막대한 양의 토큰을 소비하고 상당한 비용을 발생시킬 수 있다.
Fusion5는 기업들에게 조직, 프로세스, 데이터, 브랜드, 전문가 지식 등 기업을 온전히 설명하는 구조화된 지식 레이어인 온톨로지(ontology)를 구축할 것을 권장한다. 이는 AI가 처음부터 올바른 정보를 찾도록 돕고, 추론 단계를 줄이며, 계산 비용을 절감해 준다.
데이터가 부족하거나 기업 지식이 디지털화되지 않은 경우, AI는 검색에 많은 시간을 낭비하게 되며, 이는 비용을 증가시키는 동시에 오류를 쉽게 유발한다. Fusion5에 따르면 기업들은 “두 번 지불”하게 된다. 컴퓨팅 파워 비용으로 한 번, 발생한 오류 비용으로 또 한 번 지불하는 셈이다.
기사에 따르면 테슬라, 우버, Meta, 아마존 같은 기업들은 비용을 통제하고 투자 효율성을 평가하기 위해 직원들의 AI 에이전트 사용을 제한하기 시작했다.
Fusion5는 미국의 4대 기술 거대 기업들이 올해 AI 인프라에 약 7,000억 달러를 지출할 것으로 예상된다는 데이터를 인용했다. 한편, OpenAI는 연간 컴퓨팅 파워에 약 600억 달러를 지출하는 반면 매출은 약 130억 달러에 불과한 것으로 알려졌다. 또한 마이크로소프트는 Azure 매출이 처음으로 100억 달러를 돌파했으며 Microsoft 365 Copilot 유료 라이선스가 3,000만 개를 넘어섰다고 발표했다.
Fusion5는 AI 에이전트를 실시간으로 모니터링하고, 비용을 추적하며, 경고를 설정하고, 안전 가드레일을 제어하며, 에이전트가 허용된 범위를 벗어나 작동할 때 사람에게 처리를 넘기는 에이전트 운영 센터(AOC)의 설립을 제안했다. 이 회사는 4분기에 이 서비스를 출시할 예정이며, 뉴질랜드와 호주의 약 1,400개 고객을 대상으로 하고 있다.
📌 기업의 과제는 “AI를 사용할 것인가 말 것인가”에서 “AI를 효율적으로 운영하고 비용을 통제하는 방법”으로 전환되고 있다. AI 에이전트가 점점 더 자율적으로 작동하고 토큰 기반 과금 모델이 보편화됨에 따라, AI 거버넌스는 새로운 운영 기능이 될 것이다. AI 비용이 이전처럼 공급업체의 보조를 받지 못하게 됨에 따라, 데이터, 내부 지식, 에이전트 모니터링 시스템에 투자하는 기업들이 더 큰 우위를 차지하게 될 것이다.
