- Ein 526-seitiger Gesundheitsbericht, den die Provinz Neufundland und Labrador bei Deloitte in Auftrag gegeben hatte und der fast 1,6 Millionen USD wert ist, enthielt Fehler, die vermutlich durch generative KI verursacht wurden, darunter falsche Zitate und nicht existierendes akademisches Material.
- Eine Untersuchung der Zeitung Independent zeigte, dass der Bericht gefälschte Forschungsarbeiten verwendete, Wissenschaftler in Werken zitierte, an denen sie nie beteiligt waren, und sogar „fiktive“ Autorengruppen nannte, die nie zusammengearbeitet hatten.
- Deloitte Canada bekräftigte seine Haltung zu den Empfehlungen im Bericht und sagte, dass KI nur „selektiv“ zur Unterstützung einiger Zitate verwendet wurde und dass die aktuellen Korrekturen nur „eine Handvoll“ Fehler betreffen, die die Schlussfolgerungen nicht beeinflussen.
- Eine zitierte Forschungsarbeit aus dem Canadian Journal of Respiratory Therapy konnte ebenfalls nicht in der Datenbank gefunden werden.
- Professorin Gail Tomblin Murphy, die in einem nicht existierenden Artikel fälschlicherweise zitiert wurde, kommentierte, dass der Grad der Ungenauigkeit auf eine erhebliche Nutzung von KI hindeutet; sie warnte vor ernsten Risiken, wenn politikunterstützende Beweise nicht authentifiziert werden.
- Der Bericht konzentrierte sich auf virtuelle Pflege, die Bindung von Gesundheitspersonal und die Auswirkungen von COVID-19, vor dem Hintergrund eines Ärztemangels in der Provinz. Mit Stand Montag war das Dokument immer noch auf der Regierungswebsite verfügbar.
- Die Provinz zahlte die Kosten in 8 Raten, gemäß einer Informationsanfrage. Die neue Regierung von Premier Tony Wakeham hat sich nicht geäußert.
- Der Vorfall folgt auf einen ähnlichen Skandal in Australien: Ein 290.000 USD teurer Bericht von Deloitte zur Unterstützung der Sozialpolitik enthielt „KI-Halluzinationen“, begleitet von gefälschtem akademischem Material und falschen Zitaten. Deloitte räumte später die Verwendung von Azure OpenAI ein, aktualisierte den Bericht und erstattete einen Teil der Gebühren zurück.
- Derzeit gibt es keine Informationen darüber, ob Kanada eine Rückerstattung von Deloitte verlangt hat.
📌 Ein 526-seitiger Gesundheitsbericht, den die Provinz Neufundland und Labrador (Kanada) bei Deloitte in Auftrag gab und der fast 1,6 Millionen USD wert ist, enthielt Fehler, die vermutlich durch generative KI verursacht wurden, darunter falsche Zitate und nicht existierendes akademisches Material. Deloitte bestritt, dass KI den Bericht geschrieben habe, gab jedoch die Verwendung von KI zur Unterstützung der Zitate zu. Dies ist der zweite Skandal nach dem Fall in Australien und wirft Bedenken hinsichtlich der Genauigkeit und Rechenschaftspflicht auf, wenn KI in Regierungsberatungsdokumenten verwendet wird.
