- Два правительственных ведомства ЮАР — Министерство связи и цифровых технологий и Министерство внутренних дел — отстранили от работы в общей сложности четырех чиновников.
- Причиной стали документы по политике в области ИИ, содержащие «несуществующие» академические цитаты, предположительно созданные ИИ (галлюцинации).
- Проект национальной политики в области ИИ был отозван из процесса общественных консультаций после обнаружения как минимум шести поддельных ссылок.
- В другом документе, касающемся иммиграции и гражданства, были обнаружены аналогичные ошибки, несмотря на одобрение на высоком уровне.
- Правительство признало, что неконтролируемое использование ИИ нанесло ущерб целостности документов.
- Для расследования и проверки всех документов с 2022 года были наняты независимые юридические фирмы.
- Власти введут обязательные процедуры проверки и декларирования использования ИИ при утверждении документов.
- Министр Леон Шрайбер призвал к внедрению контроля за ИИ во всем правительстве.
- Инцидент вызывает обеспокоенность по поводу надежности государственной политики в случае злоупотребления ИИ.
- Насущная необходимость: создание механизмов обнаружения галлюцинаций и четкой ответственности за ошибки ИИ.
📌 Заключение: Четверо южноафриканских правительственных чиновников были отстранены от работы, а проект национальной политики в области ИИ отозван после обнаружения как минимум шести поддельных ссылок, предположительно созданных ИИ. Инцидент демонстрирует серьезные риски неконтролируемого использования ИИ при разработке политики. Всего нескольких ложных цитат оказалось достаточно для отзыва государственных документов и отстранения должностных лиц. Это подчеркивает необходимость строгого надзора за ИИ с четкими процессами проверки и ответственности для защиты общественного доверия.
