- 남아프리카공화국의 두 정부 부처인 통신디지털기술부와 내무부는 총 4명의 공무원을 정직 처분했다.
- 원인은 AI 정책 문서에 AI가 생성한 것으로 의심되는 ‘존재하지 않는’ 학술 인용(환각 현상)이 포함되었기 때문이다.
- 국가 AI 정책 초안은 최소 6개의 가짜 참고 문헌이 발견된 후 공청회 과정에서 철회되었다.
- 이민 및 시민권에 관한 또 다른 문서에서도 고위급 승인을 받았음에도 불구하고 유사한 오류가 발견되었다.
- 정부는 통제되지 않은 AI 사용이 문서의 무결성을 훼손했음을 인정했다.
- 2022년부터 작성된 모든 문서를 조사하고 검토하기 위해 독립 법무법인을 고용했다.
- 당국은 문서 승인 시 AI 사용 신고 및 검토 절차를 의무화할 예정이다.
- 레온 슈라이버 장관은 정부 전반에 걸쳐 AI 통제 시스템을 적용할 것을 촉구했다.
- 이번 사건은 AI가 남용될 경우 공공 정책의 신뢰성에 대한 우려를 불러일으켰다.
- 시급한 과제: 환각 현상 탐지 메커니즘 구축 및 AI 오류 발생 시 명확한 책임 소재 규명.
📌 결론: 남아공 정부 공무원 4명이 정직되고 국가 AI 정책 초안이 최소 6개의 AI 생성 의심 가짜 인용구 발견으로 철회되었다. 이번 사건은 정책 수립 과정에서 통제되지 않은 AI 사용의 심각한 위험을 보여준다. 단 몇 개의 가짜 인용만으로도 국가 문서가 취소되고 공무원이 정직되기에 충분했다. 이는 대중의 신뢰를 보호하기 위해 명확한 검증 절차와 책임이 따르는 엄격한 AI 감독이 필요함을 강조한다.
