- L’articolo sostiene che la domanda cruciale non è se l’IA sia affidabile, ma come sia progettato il sistema per controllare gli errori sia dell’IA che degli esseri umani.
- L’autore osserva che i grandi modelli linguistici possono inventare informazioni e riempire lacune con supposizioni, ma anche la memoria umana ricostruisce spesso i ricordi invece di conservarli accuratamente.
- L’esempio personale di un ricordo di una recita scolastica — dove l’autore ricordava di aver recitato mentre in realtà aveva solo costruito la scenografia — illustra l’imprecisione della memoria.
- L’industria aeronautica raggiunge livelli di sicurezza elevatissimi grazie a checklist, meccanismi di ridondanza, scatole nere e indagini anche sugli incidenti sfiorati.
- Anche la medicina ha migliorato i risultati delle cure grazie a processi diagnostici standardizzati e valutazioni indipendenti invece di affidarsi solo all’esperienza personale.
- Nelle aziende, molte decisioni dipendono ancora da formazione, esperienza e intuito, rendendo difficile tracciare gli errori.
- Una revisione sistematica del 2024 su Science Advances che ha analizzato 77 studi mostra che la formazione contro i pregiudizi ha un’efficacia limitata.
- Fattori più efficaci includono processi chiari, criteri standardizzati, riduzione della discrezionalità e promemoria al momento della decisione, che sono anche le basi di una governance efficace dell’IA.
📌 Sia l’IA che gli esseri umani sono imperfetti, quindi non si dovrebbe riporre fiducia assoluta in nessuna delle due parti. Invece di concentrarsi solo sull’accuratezza dell’IA, le organizzazioni devono costruire processi trasparenti, standard coerenti, meccanismi di monitoraggio e controllo degli errori simili a quelli dell’aviazione e della medicina. Lo studio del 2024 su 77 lavori conferma inoltre che una progettazione efficace del sistema è più importante del semplice cambiamento della percezione individuale.
