- 南アフリカは、国家AI政策案の引用文献の多くが偽造されており、生成AIによって作成された兆候があることが判明したため、同案の撤回を余儀なくされた。
- 文書が議会で完成間近だった際、出典リストに存在しない参照文献が発見された。
- ソリー・マラツィ通信・デジタル技術相は4月26日、この件が政策の完全性と信頼性を深刻に損なったと表明した。
- 同氏は、これが単なるテクニカルエラーではなく、生成AIを使用する際の検証不足の結果であると強調した。
- 当初の草案では、国家AI委員会、倫理委員会、および独立した規制機関の設立が提案されていた。
- 政策には、民間セクターの投資を促進するための税制優遇措置、補助金、支援基金も含まれていた。
- 南アフリカの目標は、アフリカを代表するAIイノベーションハブになることである。
- 「AIの幻覚（ハルシネーション）」問題は、特に法的文書において誤情報を生み出すとして、引き続き議論を呼んでいる。
- 米国では、弁護士が虚偽の引用を含むAI文書を使用したケースが900件以上記録されている。
📌 重要な政策がデータ検証の重大な失敗により撤回されたことで、南アフリカはAI分野でリーダーシップを取る野望を一時停止せざるを得なくなった。規制機関や経済的インセンティブなどの大きな構想が含まれていたにもかかわらず、生成AIによる虚偽の引用が文書の信頼性を失わせた。この事件は900件以上の類似事例がある世界的なリスクを反映しており、人間の検閲が不可欠であることを強調している。
