- AI 에이전트는 몇 개의 LLM 명령과 프롬프트만으로 쉽게 구축할 수 있지만, 실제 프로덕션 환경에서 코드는 전체 복잡한 시스템의 아주 작은 일부일 뿐이다.
- 기업의 에이전트 수는 금세 직원 수의 5~10배에 달할 수 있으며, 이는 통제 불능과 기능 중복을 초래한다.
- ‘숨겨진 인프라 부채’에는 통합, 컨텍스트 레이크, 에이전트 레지스트리, 측정, 휴먼-인-더-루프(HITL), 거버넌스, 오케스트레이션 등 7가지 블록이 있다.
- 파편화된 통합으로 인해 수백 개의 개별 연결과 토큰이 발생하며, 이는 오류나 만료에 취약하고 에이전트 간 데이터 불일치를 유발한다.
- 취약한 컨텍스트 레이크는 에이전트가 오래된 데이터를 사용하게 만들고, 의사결정 이력에서 학습하지 못해 실수를 반복하게 한다.
- 에이전트 레지스트리가 없으면 아무도 존재를 모르는 중복 에이전트가 양산되며, 버전 관리나 라이프사이클 제어가 불가능해진다.
- 시스템이 비결정적(non-deterministic)이기 때문에 측정이 어렵고, 성능이나 ROI, 시간에 따른 개선 정도를 평가하기 힘들다.
- 표준화되지 않은 휴먼-인-더-루프는 승인 로직을 분산시켜 확장을 어렵게 하고 중요한 작업에 대한 통제력을 약화시킨다.
- 거버넌스가 약하면 데이터 유출, 액세스 권한 남용이 발생할 수 있으며 에이전트 작업에 대한 명확한 감사 추적이 남지 않는다.
- 오케스트레이션은 가장 큰 위험 요소다. 에이전트가 비결정적으로 작동할 때 잘못된 결정을 내리기 쉬우며 그 원인을 추적하기도 어렵다.
- 조직 전체로 확장할 때, 기술 리소스의 최대 50%를 제품 개발 대신 에이전트 주변의 인프라를 처리하는 데 쏟아야 할 수도 있다.
📌 AI 에이전트는 강력한 자동화의 가능성을 열어주지만, 동시에 과거의 마이크로서비스보다 더 복잡한 새로운 기술 부채 계층을 형성한다. 통합부터 오케스트레이션까지 7가지 인프라 블록으로 인해 기업은 에이전트 시스템을 통제하는 데만 리소스의 50%를 소비하게 될 수 있다. 조기에 기반을 구축하지 않으면 에이전트 수가 직원 수보다 몇 배나 많아짐에 따라 데이터 유출, 프로덕션 오류, 통제 불능의 AI 비용과 같은 리스크가 빠르게 나타날 것이다.
