L’article compare la compétition dans l’IA entre les États-Unis et la Chine à la course aux armements nucléaires entre les États-Unis et l’Union soviétique, où deux superpuissances se concurrencent technologiquement tout en faisant face au risque de provoquer des conséquences mondiales.
La crise des missiles de Cuba, qui a duré 13 jours, est devenue un tournant, incitant Washington et Moscou à mettre en place des mécanismes pour réduire le risque d’une guerre nucléaire accidentelle.
L’IA diffère des armes nucléaires car elle est principalement développée par des entreprises, largement diffusée et reste une « boîte noire » que même les laboratoires de pointe (frontier labs) ne comprennent pas entièrement.
Une leçon qui peut être appliquée est l’établissement d’une « ligne directe » (hotline) entre les États-Unis et la Chine et la connexion des laboratoires de pointe pour partager rapidement des informations sur les incidents liés à l’IA dangereux.
Les États-Unis et l’Union soviétique ont autrefois utilisé des mécanismes d’inspection et de surveillance nucléaires ; pour l’IA, l’expert Anthony Aguirre propose de suivre les limites de calcul (compute) et les centres de données à grande échelle.
La surveillance de l’IA pourrait être réalisable car les puces avancées sont concentrées dans des chaînes d’approvisionnement spécialisées et les centres de données sont suffisamment grands pour être suivis par diverses méthodes.
Les principaux obstacles sont le manque de confiance entre les États-Unis et la Chine, le rôle des entreprises privées et la réticence potentielle de Pékin à limiter son développement tant qu’il est considéré comme en retard.
Contrairement à Hiroshima et Nagasaki, le monde manque d’une catastrophe liée à l’IA équivalente pour créer une prise de conscience partagée du niveau de danger et stimuler l’action collective.
📌 Conclusion : L’article utilise l’expérience du contrôle des armements nucléaires pour suggérer des mécanismes de gouvernance de l’IA tels que des lignes directrices, le partage d’incidents, la surveillance du calcul et l’inspection des infrastructures. Cependant, l’IA est plus difficile à gérer car la technologie est dispersée parmi les entreprises et le degré de risque fait toujours l’objet de débats. La leçon clé de la guerre froide est que la coopération n’exige pas que deux rivaux se fassent entièrement confiance : les mécanismes d’échange d’informations et de vérification peuvent être construits précisément en raison du manque de confiance entre eux.
