- В отчете о здравоохранении на 526 страницах, заказанном провинцией Ньюфаундленд и Лабрадор у Deloitte стоимостью почти 1,6 миллиона долларов США, были обнаружены ошибки, предположительно вызванные генеративным ИИ, включая неверные цитаты и несуществующие академические материалы.
- Расследование газеты Independent показало, что в отчете использовались фальшивые научные статьи, цитировались ученые в работах, в которых они никогда не участвовали, и даже упоминались «вымышленные» группы авторов, которые никогда не работали вместе.
- Deloitte Canada подтвердила свою позицию в отношении рекомендаций в отчете, заявив, что ИИ использовался «избирательно» только для помощи с некоторыми цитатами, и что текущие исправления касаются лишь «незначительного числа» ошибок, не влияющих на выводы.
- Исследовательская работа, цитируемая из Canadian Journal of Respiratory Therapy, также не была найдена в базе данных.
- Профессор Гейл Томблин Мерфи, которая была ошибочно процитирована в несуществующей статье, отметила, что степень искажения предполагает значительное использование ИИ; она предупредила о серьезных рисках, когда доказательства, поддерживающие политику, не аутентифицированы.
- Отчет сосредоточен на виртуальном здравоохранении, удержании медицинского персонала и влиянии COVID-19, на фоне нехватки врачей и медсестер в провинции. По состоянию на понедельник документ все еще находился на веб-сайте правительства.
- Согласно запросу о раскрытии информации, провинция оплатила услуги 8 частями. Новая администрация премьера Тони Уэйкема не прокомментировала ситуацию.
- Этот инцидент последовал за аналогичным скандалом в Австралии: в отчете Deloitte стоимостью 290 000 долларов США, подготовленном для поддержки политики социального обеспечения, были обнаружены «галлюцинации ИИ» с фальшивыми академическими материалами и неверными цитатами. Deloitte позже признала использование Azure OpenAI, обновила отчет и частично возместила гонорар.
- В настоящее время нет информации о том, требовала ли Канада возмещения средств от Deloitte.
📌 В отчете о здравоохранении на 526 страницах, заказанном провинцией Ньюфаундленд и Лабрадор (Канада) у Deloitte стоимостью почти 1,6 миллиона долларов США, были обнаружены ошибки, предположительно вызванные генеративным ИИ, включая неверные цитаты и несуществующие академические материалы. Deloitte отрицает, что ИИ написал отчет, но признала использование ИИ для помощи с цитатами. Это второй скандал после австралийского случая, вызывающий обеспокоенность по поводу точности и ответственности при использовании ИИ в правительственных консультационных документах.
