- 뉴펀들랜드 래브라도주가 딜로이트에 의뢰한 약 160만 달러 상당의 526페이지짜리 건강 보고서에서 부정확한 인용 및 존재하지 않는 학술 자료를 포함하여 생성형 AI로 인해 발생한 것으로 의심되는 오류가 발견되었습니다.
- Independent 신문의 조사에 따르면, 이 보고서는 가짜 연구 논문을 사용했고, 과학자들이 전혀 참여하지 않은 저작을 인용했으며, 심지어 함께 작업한 적이 없는 “가상의” 저자 그룹의 이름을 언급하기도 했습니다.
- 딜로이트 캐나다는 보고서의 권고 사항에 대한 입장을 고수하며, AI는 일부 인용을 돕기 위해 “선별적으로” 사용되었을 뿐이며 현재의 수정은 결론에 영향을 미치지 않는 “소수의” 오류에만 관련된다고 말했습니다.
- Canadian Journal of Respiratory Therapy에서 인용된 연구 논문 역시 데이터베이스에서 찾을 수 없었습니다.
- 존재하지 않는 기사에 잘못 인용된 Gail Tomblin Murphy 교수는 이러한 왜곡의 정도는 AI가 상당히 많이 사용되었을 수 있음을 시사한다고 논평했습니다. 그녀는 정책을 뒷받침하는 증거가 검증되지 않을 경우 심각한 위험이 있다고 경고했습니다.
- 이 보고서는 해당 주가 의사와 간호사 부족을 겪고 있는 상황에서 가상 진료, 의료 인력 유지 및 COVID-19의 영향에 초점을 맞추고 있습니다. 월요일 현재, 해당 문서는 여전히 정부 웹사이트에 게시되어 있습니다.
- 정보 공개 요청에 따르면, 주정부는 비용을 8차례에 걸쳐 지불했습니다. Tony Wakeham 신임 수상의 행정부는 아직 논평하지 않았습니다.
- 이 사건은 호주에서 발생한 유사한 스캔들에 뒤이어 발생했습니다. 딜로이트가 복지 정책을 지원하기 위해 작성한 29만 달러 상당의 보고서에서 가짜 학술 자료와 잘못된 인용을 포함한 “AI 환각(AI hallucinations)”이 발견되었습니다. 딜로이트는 나중에 Azure OpenAI를 사용했음을 인정하고 보고서를 업데이트했으며 수수료 일부를 환불했습니다.
- 캐나다가 딜로이트에게 환불을 요구했는지에 대한 정보는 현재 없습니다.
📌 캐나다 뉴펀들랜드 래브라도주가 딜로이트에 의뢰한 약 160만 달러 상당의 526페이지짜리 건강 보고서에서 부정확한 인용 및 존재하지 않는 학술 자료를 포함하여 생성형 AI로 인해 발생한 것으로 의심되는 오류가 발견되었습니다. 딜로이트는 AI가 보고서를 작성했다는 사실을 부인했지만, AI를 사용하여 인용을 도왔다고 인정했습니다. 이는 호주 사건에 이은 두 번째 스캔들로, AI가 정부 컨설팅 문서에 사용될 때의 정확성과 책임에 대한 우려를 증폭시키고 있습니다.
