- 남아프리카공화국은 국가 AI 정책 초안의 인용문 다수가 가짜이며 생성형 AI에 의해 작성된 흔적이 발견되자 해당 정책을 철회할 수밖에 없었다.
- 문서가 의회에서 마무리 단계에 있던 중 출처 목록에서 존재하지 않는 참조 문헌들이 발견되었다.
- 솔리 말랏시(Solly Malatsi) 통신디지털기술부 장관은 4월 26일, 이번 사건이 정책의 무결성과 신뢰성에 심각한 타격을 주었다고 발표했다.
- 그는 이것이 단순한 기술적 오류가 아니라 생성형 AI를 사용할 때 검증이 부족했던 결과라고 강조했다.
- 초기 초안에는 국가 AI 위원회, 윤리 위원회 및 별도의 규제 기관 설립이 제안되었다.
- 정책에는 민간 부문 투자를 촉진하기 위한 세제 혜택, 보조금 및 지원 기금도 포함되었다.
- 남아공의 목표는 아프리카 최고의 AI 혁신 허브가 되는 것이다.
- ‘AI 환각’ 문제는 특히 법률 문서에서 잘못된 정보를 생성하며 계속해서 논란이 되고 있다.
- 미국에서는 변호사들이 가짜 인용문이 포함된 AI 문서를 사용한 사례가 900건 이상 기록되었다.
📌 데이터 검증의 중대한 실패로 인해 핵심 정책이 철회되면서 남아공의 AI 선도 야망에 제동이 걸렸다. 규제 기관 및 경제적 인센티브와 같은 주요 계획이 포함되었음에도 불구하고, 생성형 AI가 만든 가짜 인용문이 문서의 공신력을 떨어뜨렸다. 이번 사건은 900건 이상의 유사 사례가 있는 글로벌 리스크를 반영하며, 인간의 검수 역할이 필수적임을 강조한다.
