- Fusion5 cảnh báo giai đoạn AI miễn phí hoặc được trợ giá đã kết thúc. Khi các nhà cung cấp chuyển sang mô hình tính phí theo token, chi phí vận hành AI sẽ trở thành một khoản ngân sách lớn đối với doanh nghiệp.
- Tổng giám đốc Fusion5 Kristy Brown cho rằng trong ba năm qua, doanh nghiệp gần như được hưởng lợi từ “thí nghiệm công nghệ đắt đỏ nhất lịch sử” do các công ty AI tài trợ, nhưng hiện nay chi phí đang được chuyển dần sang khách hàng.
- Các công cụ như Claude, Gemini, Microsoft Copilot và nhiều Agent lập trình hoặc chăm sóc khách hàng đang áp dụng mô hình tính phí theo token hoặc kết hợp giữa thuê bao và trả theo mức sử dụng.
- Theo bà Brown, khác với phần mềm truyền thống, mỗi prompt, mỗi bước suy luận và mỗi hành động của Agent AI đều tạo ra chi phí thực tế. Các Agent tự chủ còn có thể thực hiện giao dịch hoặc đưa ra quyết định thay doanh nghiệp.
- Một Agent mắc kẹt trong vòng lặp suy luận có thể tiêu tốn lượng lớn token và phát sinh chi phí đáng kể trước khi có người phát hiện.
- Fusion5 khuyến nghị doanh nghiệp xây dựng một ontology, tức lớp tri thức có cấu trúc mô tả đầy đủ về doanh nghiệp như tổ chức, quy trình, dữ liệu, thương hiệu và kiến thức chuyên gia. Điều này giúp AI tìm đúng thông tin ngay từ đầu, giảm số bước suy luận và giảm chi phí tính toán.
- Nếu dữ liệu thiếu hoặc tri thức doanh nghiệp chưa được số hóa, AI sẽ mất nhiều thời gian tìm kiếm, vừa làm tăng chi phí vừa dễ tạo ra sai sót. Theo Fusion5, doanh nghiệp sẽ “trả tiền hai lần”: một lần cho năng lực tính toán và một lần cho các lỗi phát sinh.
- Bài viết cho biết các tập đoàn như Tesla, Uber, Meta và Amazon đã bắt đầu hạn chế việc sử dụng Agent AI của nhân viên nhằm kiểm soát chi phí và đánh giá hiệu quả đầu tư.
- Fusion5 dẫn số liệu cho rằng bốn tập đoàn công nghệ lớn của Mỹ dự kiến chi gần 700 tỷ USD cho hạ tầng AI trong năm nay. Trong khi đó, OpenAI được cho là chi khoảng 60 tỷ USD mỗi năm cho năng lực tính toán nhưng chỉ tạo khoảng 13 tỷ USD doanh thu. Microsoft cũng cho biết Azure lần đầu vượt 100 tỷ USD doanh thu và Microsoft 365 Copilot đạt hơn 30 triệu giấy phép trả phí.
- Fusion5 đề xuất thành lập Agent Operations Centre (AOC) để giám sát Agent AI theo thời gian thực, theo dõi chi phí, thiết lập cảnh báo, kiểm soát các cơ chế bảo vệ và chuyển quyền xử lý cho con người khi Agent hoạt động ngoài phạm vi cho phép. Công ty dự kiến ra mắt dịch vụ này trong quý IV, hướng đến khoảng 1.400 khách hàng tại New Zealand và Australia.
📌 Bài toán của doanh nghiệp đang chuyển từ “có nên dùng AI hay không” sang “làm thế nào để vận hành AI hiệu quả và kiểm soát chi phí”. Khi Agent AI ngày càng hoạt động tự chủ và mô hình tính phí theo token trở nên phổ biến, quản trị AI sẽ trở thành một chức năng vận hành mới. Những doanh nghiệp đầu tư vào dữ liệu, tri thức nội bộ và hệ thống giám sát Agent sẽ có lợi thế lớn hơn khi chi phí AI không còn được các nhà cung cấp trợ giá như trước.
Tổng hợp
