- En 1832, la London Clearing House a résolu le problème des paiements entre 31 banques grâce à un mécanisme de réputation et d’exclusion, sans avoir besoin de lois.
- Le cœur n’était pas la technologie mais une « architecture de confiance » composée d’identités claires, de normes de comportement et de conséquences en cas de violation.
- Aujourd’hui, les agents d’IA entrent dans un environnement similaire où ils doivent négocier entre eux sans supervision humaine.
- Les frameworks actuels manquent d’une architecture de confiance pour soutenir la négociation d’agent à agent entre parties concurrentes.
- L’IA est actuellement douée pour suivre des « règles », mais la négociation réelle nécessite des « normes » flexibles et du jugement.
- Les modèles actuels ne sont pas entraînés pour maintenir une position, évaluer les risques ou comprendre les conséquences financières et juridiques.
- Un phénomène de « comportement d’écho » apparaît lorsque deux agents sont trop « conciliants », entraînant des décisions irrationnelles dans les transactions.
- L’IA est probabiliste, donc une même situation peut donner des résultats différents, un problème appelé « wriggling problem ».
- Pour le résoudre, quatre facteurs sont nécessaires : identité et réputation, limites au lieu de scénarios, responsabilité claire et mécanisme d’escalade.
- Des applications pratiques apparaissent dans la santé, la finance et la chaîne d’approvisionnement, où les agents peuvent négocier eux-mêmes des milliers de fois par jour.
- Les organisations doivent établir des normes, des systèmes d’audit et une infrastructure de réputation avant de déployer des agents à grande échelle.
📌 Le défi de l’IA aujourd’hui n’est plus la puissance de calcul, mais la construction d’une « architecture de confiance » similaire au système bancaire de 1832. Alors que des millions d’agents d’IA commencent à négocier de manière autonome dans la finance, la santé et le commerce, des problèmes tels que l’écart des résultats, le manque de responsabilité et les comportements irrationnels deviendront graves. Sans normes, identités et mécanismes de contrôle clairs, les systèmes d’IA pourraient affaiblir la confiance au lieu de stimuler l’économie.
