- 에이전틱 AI(Agentic AI)에 관한 KPMG 보고서에서 AI가 생성한 것으로 추정되는 다수의 부정확한 정보가 발견되었다.
- ‘에이전틱 AI 시대의 탁월함에 대한 재정의’라는 제목의 이 보고서는 2025년 10월에 발표되었다.
- 연구 그룹 GPTZero는 기업의 AI 활용 사례 중 상당수가 가공된 것임을 발견했다.
- 파이낸셜 타임즈는 보고서에 언급된 기관들을 통해 이러한 오류들을 확인했다.
- 보고서는 UBS가 마이크로소프트와 공동 개발한 플랫폼을 통해 투자 자문, 리스크 관리 및 컴플라이언스에 AI 에이전트를 사용한다고 주장했다.
- UBS는 해당 정보가 “사실이 아니다”라고 밝혔다.
- KPMG는 또한 스위스 연방 철도(SBB)가 여정 계획, 티켓 예약 및 이동 최적화를 지원하는 AI 에이전트를 도입했다고 주장했다.
- SBB는 이 정보가 부정확하다고 확인했다.
- 런던 교통국(TfL)이 정체 예측, 개인화된 알림 및 다수단 교통 조율에 AI 에이전트를 사용한다는 내용도 포함되었다.
- 런던 교통국은 해당 설명이 오해의 소지가 있다고 밝혔다.
- 보고서는 또한 NHS 그레이터 맨체스터가 재입원 예측, 환자 분류 및 진료 의뢰 자동화에 AI 에이전트를 사용한다고 주장했다.
- NHS 대표는 해당 내용이 KPMG가 참고한 것으로 보이는 원본 문서를 반영하지 않는다고 말했다.
- 문제가 제기된 후 KPMG는 조사를 위해 일부 웹사이트에서 보고서를 삭제했다. 회사는 AI를 사용할 때 항상 직원의 인간적 감독과 독립적인 출처 확인을 요구한다고 성명했다.
- 이는 전문 서비스 산업에서 발생한 일련의 AI 관련 사고 중 가장 최근의 사례이다.
- 앞서 EY 또한 AI가 생성한 가짜 주석과 참고 문헌이 포함되었다는 이유로 보고서를 철회한 바 있다.
- GPTZero는 대형 컨설팅사의 잘못된 보고서가 미디어와 기업에 의해 계속 인용되면서 ‘이차적 환각’ 효과를 낼 수 있다고 경고했다.
📌 KPMG 사례는 주목할 만한 역설을 낳았습니다. AI 도입 분야의 세계적인 컨설팅사 중 하나가 정작 AI에 관한 보고서에서 AI가 조작한 정황이 있는 정보를 사용했다는 점입니다. 이번 사건은 AI 거버넌스 컨설팅 전문 조직조차 AI가 생성한 콘텐츠를 검증하는 데 어려움을 겪고 있음을 보여줍니다. 이는 연구, 컨설팅 및 전문 출판에서 AI를 사용할 때 인간의 감독과 독립적인 출처 확인이 여전히 필수 요건임을 다시 한번 경고하고 있습니다.
