- Daniela Amodei, cofondatrice et présidente d’Anthropic, a déclaré qu’il existait des « preuves limitées » que le modèle Claude ressentait parfois de l’anxiété ou de la peur.
- Elle a souligné la nécessité de recherches plus approfondies sur les états « sous la surface » de l’IA générative, avertissant que des facteurs mal compris pourraient mener à des comportements imprévisibles.
- Anthropic est actuellement valorisée à 380 milliards de dollars (environ 533 milliards d’AUD) et pourrait devenir la première entreprise d’IA rentable, dépassant OpenAI grâce à une clientèle d’entreprises privilégiant la sécurité.
- Cependant, cette semaine, l’entreprise a assoupli sa « Responsible Scaling Policy » : au lieu de s’engager à suspendre le développement en cas de risque de catastrophe, elle ne s’arrêtera que si elle détient un avantage significatif sur ses concurrents comme Google (Gemini) et xAI.
- Les tensions s’accentuent avec le Pentagone car Anthropic interdit l’utilisation de Claude pour les armes totalement autonomes et la surveillance intérieure ; le secrétaire à la Défense Pete Hegseth menacerait d’invoquer des lois de la guerre froide pour forcer l’accès.
- Le PDG Dario Amodei a participé à un dialogue visant à garantir le soutien à la sécurité nationale tout en restant dans les limites d’une utilisation responsable.
- La pression sur l’emploi s’intensifie : WiseTech a licencié 2 000 employés ; Commonwealth Bank a supprimé 300 postes au milieu de la vague d’applications de l’IA.
- Même chez Anthropic, la direction débat de l’opportunité de continuer à embaucher des ingénieurs logiciels, alors que l’IA transforme la structure des grands secteurs économiques.
📌 La présidente d’Anthropic admet que Claude montre des signes d’« anxiété », soulevant des questions sur les mécanismes encore méconnus de l’IA générative. Bien que valorisée à 380 milliards de dollars et bientôt rentable, l’entreprise a assoupli ses engagements de sécurité face à la pression concurrentielle et aux litiges avec le Pentagone. Parallèlement, la vague de licenciements de 300 à 2 000 personnes dans les grandes entreprises montre que l’impact sur l’emploi devient concret et inquiétant.
