La società funziona grazie alla “divisione del lavoro cognitivo”: ogni individuo non ha bisogno di comprendere ogni settore, ma deve sapere chi possiede la competenza adeguata a cui rivolgersi per trovare risposte quando necessario.
La capacità di identificare gli esperti emerge precocemente. I bambini dai 3 ai 5 anni sanno già di dover chiedere a un medico per un braccio rotto e a un meccanico per una gomma, mentre i bambini più grandi possono riconoscere la competenza in base ai principi sottostanti anziché alle somiglianze superficiali.
Tuttavia, l’accesso alla conoscenza altrui può creare un’“illusione di profondità esplicativa”, portando le persone a confondere la conoscenza posseduta dagli esperti con la propria.
Gli esperimenti dimostrano che il solo fatto di sapere che uno scienziato ha spiegato un fenomeno porta i partecipanti a valutare il proprio livello di comprensione come più elevato, ancor prima che venga fornita la spiegazione effettiva.
Un fenomeno simile si verifica con la tecnologia. Le persone a cui viene comunicato che la spiegazione di un robo-advisor è disponibile online ritengono di comprendere meglio il sistema e sono più disposte a utilizzare il servizio rispetto al gruppo che non può accedere alla spiegazione.
Internet produce un effetto analogo. Dopo aver potuto cercare informazioni per un compito, i partecipanti sovrastimano la propria capacità di spiegare argomenti completamente diversi in modo autonomo.
I chatbot di IA possono amplificare il problema poiché forniscono risposte rapide e fluide, sfumando il confine tra “informazioni a cui posso accedere” e “conoscenza che comprendo veramente”.
Un altro rischio è che gli umani applichino all’IA l’intuizione che hanno riguardo all’esperienza umana. Il fatto che un LLM risponda correttamente a una domanda economica non significa che il sistema risolverà correttamente l’algebra, così come rispondere a domande di filosofia morale non garantisce una corretta valutazione del comportamento morale in altre situazioni.
📌 Conclusione: L’IA crea un paradosso della competenza: la conoscenza diventa più accessibile, eppure gli esseri umani potrebbero avere difficoltà a riconoscere con precisione ciò che sanno veramente e in cosa l’IA è realmente competente. In passato, la capacità fondamentale era sapere “a quale esperto rivolgersi”. Nell’era dell’IA, è necessaria una nuova capacità: distinguere tra la propria comprensione, la conoscenza fornita dall’IA e i limiti delle capacità dell’IA stessa. Avere accesso a una spiegazione non equivale a comprendere tale spiegazione.
