- Les entreprises déploient rapidement l’IA agente — des systèmes autonomes agissant sans intervention humaine — mais la gouvernance ne suit pas, créant des risques majeurs lors de l’adoption.
- Une enquête de l’Université Drexel auprès de plus de 500 professionnels de la donnée révèle que 41 % des organisations utilisent déjà l’IA agente au quotidien, et non plus seulement à l’essai.
- Cependant, seulement 27 % des organisations estiment que leur cadre de gouvernance est assez mature pour superviser et contrôler ces systèmes.
- La gouvernance n’est pas ici une réglementation rigide, mais une définition claire des responsabilités, du suivi du comportement de l’IA et du moment où l’humain doit intervenir.
- Ce décalage devient dangereux lorsque l’IA agit de manière autonome en situation réelle avant que l’humain n’ait le temps de réagir.
- Par exemple, lors d’une panne de courant à San Francisco, des robotaxis autonomes se sont retrouvés bloqués à une intersection, entravant les secours, alors que le système fonctionnait pourtant « selon sa conception ».
- Dans la finance, l’IA de détection de fraude può bloquer automatiquement des transactions en temps réel ; le client ne l’apprend que lorsque sa carte est refusée, posant la question de la responsabilité en cas d’erreur de l’IA.
- De nombreuses organisations ont des humains « dans la boucle », mais ils n’interviennent qu’après que l’IA a pris sa décision, ce qui rend la supervision plus corrective que responsable.
- Sans gouvernance dès le départ, les petits problèmes s’accumulent, sapant la confiance même si le système ne présente pas de panne évidente.
- L’enquête montre que les organisations dotées d’une bonne gouvernance transforment les bénéfices initiaux de l’IA autonome en une meilleure efficacité et une croissance des revenus à long terme.
- L’OCDE souligne que la responsabilité et la supervision humaine doivent être conçues dès le départ, et non ajoutées après coup.
Conclusion : Les entreprises déploient massivement l’IA agente (systèmes autonomes sans guide humain), mais la gouvernance est à la traîne, créant des risques. Si 41 % des organisations l’utilisent déjà, seules 27 % ont une gouvernance solide. La gouvernance signifie définir les responsabilités, le suivi et les points d’intervention. Dans de nombreux cas, l’humain n’intervient qu’après la décision, transformant la supervision en simple correction d’erreurs plutôt qu’en véritable responsabilité.
