- Le professeur K. Sudhir de Yale soutient que de nombreuses entreprises sous-estiment un facteur crucial lors du déploiement des agents d’IA (AI Agents) : les règles implicites qui régissent l’organisation et qui n’existent pas dans les données formelles ou les processus officiels.
- L’article débute par l’exemple d’un client fortuné qui demande la mise à jour du bénéficiaire de son compte d’investissement. Le système d’IA gère la demande à la perfection : il classifie la requête, finalise les formalités et envoie une confirmation automatisée. Cependant, un conseiller financier expérimenté y décèlerait le signal que le client envisage de transférer ses actifs vers une autre institution.
- Un mois plus tard, le client quitte effectivement l’entreprise.
- Aucune IA n’a commis d’erreur, et pourtant l’entreprise a pris la mauvaise décision car elle a manqué les signaux implicites que les humains perçoivent habituellement.
- Sudhir appelle cette couche invisible de compétences l’« organisation implicite » (implicit organization).
- Selon lui, deux systèmes d’exploitation coexistent simultanément au sein de chaque entreprise.
- Le premier système d’exploitation est composé des processus formels, des politiques, des organigrammes et des données documentées.
- Le second système d’exploitation est le réseau de connaissances tacites, de motivations personnelles, d’expérience et de jugement que les employés utilisent au quotidien.
- L’organisation implicite remplit trois fonctions que les systèmes formels ont du mal à remplacer : la coordination, la motivation et l’autorégulation.
- La coordination se produit lorsque les employés échangent spontanément des informations non exigées par les processus formels.
- La motivation découle de la culture d’entreprise, de la réputation professionnelle et des relations sociales au sein de la société.
- L’autorégulation est la capacité de s’arrêter lorsque l’on sent que quelque chose ne va pas, même si l’on possède l’autorité formelle pour exécuter cette action.
- Sudhir affirme que les agents d’IA actuels peuvent accéder très rapidement aux données et aux processus, mais qu’ils ne possèdent pas automatiquement ces facteurs implicites.
- Lorsque les entreprises remplacent des employés par l’IA, elles ne changent pas seulement l’exécutant de la tâche ; elles éliminent également de nombreux mécanismes de motivation et de contrôle qui opèrent silencieusement en arrière-plan.
- L’auteur prend l’exemple des analystes de crédit. Une IA peut optimiser la vitesse d’approbation d’un prêt, mais elle ne comprend pas intrinsèquement les risques relationnels avec le client ou l’expérience sectorielle accumulée par les experts au fil des ans.
- Ramp est citée comme un exemple positif, car elle conçoit des agents d’IA pour traiter la majorité des demandes, tout en renvoyant les cas difficiles à l’évaluation humaine. Ces décisions humaines sont ensuite utilisées pour améliorer le système au fil du temps.
- McKinsey avec son système Lilli et Estée Lauder mit ConsumerIQ ont réussi à numériser une partie des connaissances organisationnelles.
- Cependant, l’auteur souligne que l’extraction des connaissances n’est pas synonyme de capacité de jugement.
- Les systèmes multi-agents d’IA (Multi-agent systems) sont particulièrement sujets aux pannes et anomalies car ils manquent d’une histoire commune, manquent d’expérience et n’ont personne qui assume la responsabilité globale de bout en bout.
- Sudhir cite des recherches montrant que le taux d’échec des systèmes multi-agents peut osciller entre 40 % et 80 %.
- Il pense que les entreprises n’ont que trois options : insérer l’IA dans les processus actuels, repenser les processus sur la base des anciens modèles, ou repenser les processus à partir d’une compréhension globale de l’organisation implicite.
- La troisième option est considérée comme la seule voie efficace.
- Un autre risque à long terme est que l’IA pourrait perturber le pipeline de formation des jeunes talents. De nombreux emplois de niveau débutant (entry-level) sont précisément le lieu où les employés apprennent à exercer leur jugement, absorbent la culture d’entreprise et accumulent de l’expérience pour devenir les leaders de demain. Si l’IA remplace complètement ces postes, les entreprises risquent de perdre la ressource humaine capable de gérer l’IA à l’avenir.
- Sudhir recommande aux entreprises de redessiner de manière proactive les systèmes d’apprentissage, de supervision et de révision critique de l’IA, plutôt que de se focaliser uniquement sur l’automatisation.
- 📌 Conclusion : Le plus grand défi des agents d’IA n’est pas la technologie, mais les facteurs invisibles qui permettent à l’entreprise de fonctionner efficacement au quotidien. K. Sudhir appelle cela l’« organisation implicite », qui regroupe les connaissances empiriques, la motivation professionnelle et la capacité de jugement qu’aucun système ne documente pleinement. Lorsque l’IA remplace l’humain, l’entreprise risque d’éliminer involontariamente les mécanismes mêmes qui la protègent des décisions erronées. Selon l’auteur, les entreprises qui réussiront avec l’IA ne seront pas celles qui automatiseront le plus, mais celles qui comprendront le mieux ce qui ne peut pas être automatisé.
