- L’article soutient que la question cruciale n’est pas de savoir si l’IA est digne de confiance, mais comment le système est conçu pour contrôler les erreurs de l’IA et des humains.
- L’auteur note que les grands modèles de langage peuvent inventer des informations et combler les lacunes par dei suppositions, mais la mémoire humaine reconstruit aussi fréquemment les souvenirs au lieu de les conserver avec précision.
- L’exemple personnel d’un souvenir de spectacle musical au lycée — où l’auteur se souvenait avoir joué alors qu’il n’avait fait que construire les décors — illustre l’inexactitude de la mémoire.
- L’industrie aéronautique atteint des niveaux de sécurité très élevés grâce aux listes de contrôle, aux mécanismes de redondance, aux boîtes noires et à l’enquête sur les incidents évités de justesse.
- La médecine a également amélioré les résultats des traitements grâce à des processus de diagnostic standardisés et des évaluations indépendantes au lieu de s’appuyer uniquement sur l’expérience personnelle.
- En entreprise, de nombreuses décisions dépendent encore de la formation, de l’expérience et de l’intuition, ce qui rend difficile le traçage des erreurs.
- Une revue systématique de 2024 dans Science Advances analysant 77 études montre que la formation contre les biais a une efficacité limitée.
- Les facteurs plus efficaces incluent des processus clairs, des critères standardisés, une réduction du pouvoir discrétionnaire et des rappels au moment de la décision, qui sont aussi les bases d’une gouvernance efficace de l’IA.
📌 L’IA et l’homme sont tous deux imparfaits, il ne faut donc accorder une confiance absolue à aucune des deux parties. Au lieu de se concentrer uniquement sur la précision de l’IA, les organisations doivent mettre en place des processus transparents, des normes cohérentes, des mécanismes de surveillance et de contrôle des erreurs similaires à ceux de l’aviation et de la médecine. L’étude de 2024 portant sur 77 travaux confirme également qu’une conception efficace du système est plus importante que le simple changement de la perception individuelle.
