La société fonctionne grâce à la « division du travail cognitif » : chaque individu n’a pas besoin de comprendre tous les domaines, mais doit savoir qui possède l’expertise adéquate pour trouver des réponses en cas de besoin.
La capacité à identifier les experts apparaît tôt. Les enfants de 3 à 5 ans savent déjà qu’il faut demander à un médecin pour un bras cassé et à un mécanicien pour un pneu, tandis que les enfants plus âgés peuvent reconnaître l’expertise sur la base de principes sous-jacents plutôt que de similitudes superficielles.
Cependant, l’accès aux connaissances d’autrui peut créer une « illusion de profondeur explicative », amenant les personnes à confondre les connaissances possédées par les experts avec leurs propres connaissances.
Des expériences montrent que le simple fait de savoir qu’un scientifique a expliqué un phénomène amène les participants à évaluer leur propre niveau de compréhension plus haut, avant même qu’on leur fournisse l’explication réelle.
Un phénomène similaire se produit avec la technologie. Les personnes informées qu’une explication sur un robot-conseiller (robo-adviser) est disponible en ligne estiment mieux comprendre le système et sont plus disposées à utiliser le service que le groupe n’ayant pas accès à l’explication.
Internet produit un effet similaire. Après avoir été autorisés à rechercher des informations pour une tâche, les participants surestiment leur capacité à expliquer par eux-mêmes des sujets totalement différents.
Les chatbots à IA peuvent amplifier le problème car ils fournissent des réponses rapides et fluides, brouillant la frontière entre « les informations auxquelles je peux accéder » et « les connaissances que je comprends réellement ».
Un autre risque est que les humains appliquent à l’IA leur intuition de l’expertise humaine. Le fait qu’un grand modèle de langage (LLM) réponde correctement à une question économique ne signifie pas que le système résoudra correctement l’algèbre, de même que répondre à des questions de philosophie morale ne garantit pas une évaluation correcte du comportement moral dans une autre situation.
📌 Conclusion : L’IA crée un paradoxe de l’expertise : les connaissances deviennent plus accessibles, mais les humains peuvent avoir plus de mal à reconnaître précisément ce qu’ils savent vraiment et dans quels domaines l’IA est réellement performante. Auparavant, la compétence essentielle était de savoir « à quel expert s’adresser ». À l’ère de l’IA, une nouvelle compétence est requise : faire la distinction entre sa propre compréhension, les connaissances fournies par l’IA et les limites des capacités de l’IA elle-même. Avoir accès à une explication ne signifie pas comprendre cette explication.
