- Dario Amodei, PDG d’Anthropic, vient de publier un article intitulé « Policy on the AI Exponential », appelant à la mise en place d’un mécanisme de régulation de l’IA similaire à la Federal Aviation Administration (FAA) américaine.
- Il soutient que les modèles d’IA de pointe doivent faire l’objet de tests et d’évaluations indépendants avant d’être mis sur le marché.
- Anthropic propose que les gouvernements aient le droit de retarder, bloquer ou retirer des modèles d’IA s’ils présentent des risques majeurs en matière de cybersécurité, de biologie ou d’autonomie hors de contrôle.
- L’entreprise a également dévoilé un nouveau « Cadre de gouvernance de l’IA avancée » et un nouveau « Cadre de politique économique de l’IA ».
- Les modèles entraînés sur une échelle supérieure à 1025 FLOPs ou appartenant à des entreprises dont le chiffre d’affaires lié à l’IA dépasse 500 millions de dollars pourraient être soumis à des obligations de vérification obligatoires.
- Anthropic estime que le fait d’exiger uniquement de la transparence, comme par le passé, ne suffit plus à contrôler les risques.
- L’un des principaux facteurs de cette démarche est l’augmentation rapide des menaces de cybersécurité générées par l’IA.
- L’entreprise a indiqué que Claude Mythos a démontré sa capacité à détecter des failles de sécurité critiques sur plusieurs systèmes d’exploitation.
- Anthropic suggère d’accorder une grande importance à la protection des poids des modèles (model weights), considérés comme un actif stratégique à sécuriser rigoureusement.
- L’entreprise met également en garde contre le risque d’apparition de modèles copiés de manière illicite via des techniques de « distillation de modèle » (model distillation).
- Sur le plan économique, Anthropic reconnaît que l’IA pourrait devenir une technologie de substitution de la main-d’œuvre à grande échelle, et pas seulement un outil de gain de productivité.
- L’entreprise s’engage à verser 350 millions de dollars pour la recherche et le soutien aux politiques face à l’impact de l’IA sur l’emploi.
- Cette somme comprend 200 millions de dollars pour le fonds de recherche Economic Futures et 150 millions de dollars pour un programme de bourses nationales.
- Anthropic examine des scénarios où le chômage grimperait à 5 %, 10 % ou plus à cause de l’IA.
- Les solutions évoquées incluent l’assurance salaire, le revenu de base universel (UBI) et les fonds souverains.
- L’entreprise recommande aux organisations de se concentrer sur la requalification et le redéploiement du personnel plutôt que de simplement couper dans les effectifs pour financer des projets d’IA.
- 📌 Conclusion : La proposition d’Anthropic marque un tournant majeur dans le débat sur l’IA. Au lieu de se focaliser uniquement sur l’innovation et la croissance, l’une des entreprises d’IA leaders au monde réclame publiquement un mécanisme de contrôle inspiré de l’aviation pour les modèles d’IA les plus puissants. Si ces propositions sont appliquées, les entreprises devront se préparer à un environnement d’IA assorti de multiples exigences d’audit, de sécurité et de responsabilité sociale, tout en construisant des stratégies RH à long terme pour s’adapter aux mutations provoquées par l’IA.
