- KPMG는 수개월간의 작업 끝에 100페이지에 달하는 긴 프롬프트로 구축된 세무 컨설팅 전문 AI 에이전트인 TaxBot 개발에 성공했다고 발표했습니다.
- 이 프로젝트는 회사 파트너들이 작성하여 내부 노트북에 흩어져 저장되어 있던 방대한 양의 세무 자문을 디지털화할 필요성에서 시작되었습니다.
- 서버에서 민감한 데이터가 보호되지 않은 채 발견된 사건 이후, KPMG는 AI 실험을 일시 중단하고 KPMG Workbench라는 이름의 안전하고 독점적인 플랫폼을 구축했습니다.
- Workbench는 **검색 증강 생성(RAG)**과 OpenAI, Microsoft, Google, Anthropic, Meta와 같은 제공업체의 여러 대규모 언어 모델(LLM)을 통합하여 단일 엔티티에 대한 의존을 피합니다.
- TaxBot은 2024년 KPMG 호주 지점에서 개발되었으며, 실제 컨설팅 데이터와 호주 세법을 사용하여 폐쇄된 환경에서 작동합니다.
- 이 봇은 사용자 입력을 요청하고, 전문가와 상담하며, 고객을 위한 25페이지 길이의 초안을 단 하루 만에 생성할 수 있습니다. 이전에는 2주가 걸렸습니다.
- TaxBot의 출력은 전문적인 감독 없이 일반적인 사용에 적합하지 않으므로, 세무사 자격이 있는 직원만이 TaxBot을 사용할 수 있습니다.
- 이점으로는 업무 효율성 향상, 반복 작업 감소, 직원 만족도 증대, 그리고 유사한 에이전트를 고객에게 판매하여 추가 수익을 창출하는 것이 포함됩니다.
- 그러나 KPMG는 효율성을 정확하게 측정하기 어렵다고 인정하며 장기적인 영향을 계속 평가하고 있습니다.
📌 KPMG의 TaxBot은 세무 분야 AI 적용의 대표적인 사례로, 100페이지에 달하는 긴 프롬프트로 구축되었으며 단 하루 만에 25페이지 분량의 자문을 생성할 수 있습니다. RAG와 다중 공급업체 LLM의 통합 덕분에 이 시스템은 높은 성능을 제공하며, 작업 시간을 14일에서 하루로 단축합니다. 세무사 자격이 있는 직원만이 TaxBot을 사용할 수 있는데, 이는 전문적인 감독 없이는 그 출력이 일반적인 사용에 적합하지 않기 때문입니다. 그러나 KPMG는 효율성을 정확하게 측정하기 어렵다고 인정하며 장기적인 영향을 계속 평가하고 있습니다.
Tổng hợp.

