- Un rapporto sanitario di 526 pagine commissionato dalla provincia di Terranova e Labrador a Deloitte, del valore di quasi 1,6 milioni di USD, è risultato contenere errori sospettati di essere causati dall’IA generativa, incluse citazioni errate e materiale accademico inesistente.
- Un’indagine del quotidiano Independent ha mostrato che il rapporto ha utilizzato articoli di ricerca falsi, citato scienziati in lavori a cui non avevano mai partecipato, e persino menzionato gruppi di autori “fittizi” che non avevano mai lavorato insieme.
- Deloitte Canada ha affermato di sostenere le raccomandazioni del rapporto, dicendo che l’IA è stata utilizzata “selettivamente” solo per assistere con alcune citazioni e che le correzioni attuali riguardano solo “una manciata” di errori, non influenzando le conclusioni.
- Un articolo di ricerca citato dal Canadian Journal of Respiratory Therapy non è stato trovato nemmeno nel database.
- La professoressa Gail Tomblin Murphy, citata erroneamente in un articolo inesistente, ha commentato che il grado di imprecisione suggerisce un uso considerevole dell’IA; ha avvertito dei gravi rischi quando le prove a sostegno delle politiche non sono autenticate.
- Il rapporto si concentrava sull’assistenza virtuale, sul mantenimento del personale sanitario e sull’impatto del COVID-19, in un contesto di carenza provinciale di medici e infermieri. A lunedì, il documento era ancora presente sul sito web del governo.
- La provincia ha pagato la parcella in 8 rate, secondo una richiesta di divulgazione di informazioni. La nuova amministrazione del Premier Tony Wakeham non ha commentato.
- L’incidente segue uno scandalo simile in Australia: un rapporto da 290.000 USD realizzato da Deloitte per supportare la politica di welfare è risultato contenere “allucinazioni IA”, accompagnato da materiale accademico falso e citazioni errate. Deloitte ha successivamente ammesso di aver utilizzato Azure OpenAI, ha aggiornato il rapporto e ha rimborsato parzialmente la tariffa.
- Attualmente non ci sono informazioni sul fatto che il Canada abbia richiesto un rimborso a Deloitte.
📌 Un rapporto sanitario di 526 pagine commissionato dalla provincia di Terranova e Labrador, Canada, a Deloitte, del valore di quasi 1,6 milioni di USD, è risultato contenere errori sospettati di essere causati dall’IA generativa, incluse citazioni errate e materiale accademico inesistente. Deloitte ha negato che l’IA abbia scritto il rapporto ma ha ammesso di aver utilizzato l’IA per assistere con le citazioni. Questo è il secondo scandalo dopo il caso australiano, sollevando preoccupazioni sull’accuratezza e sulla responsabilità quando l’IA viene utilizzata nei documenti di consulenza governativa.
