- Futurism affirme que l’IA crée des « doom loops », dans lesquels la technologie tire de la valeur du travail et des contenus humains tout en affaiblissant les incitations économiques à continuer de produire ces ressources.
- Des documents internes de Microsoft rendus publics dans le cadre du procès intenté par le New York Times avertissent que les stratégies de contenu généré par l’IA pourraient nuire à la fois aux performances des modèles et à l’ensemble du web.
- L’un des documents décrit un paradoxe : les produits d’IA menacent précisément les fondements économiques des fournisseurs essentiels de la « chaîne d’approvisionnement en contenu » des LLM.
- Le journalisme en est un exemple frappant. Des outils comme ChatGPT et Gemini peuvent résumer des articles sans rediriger les lecteurs vers la source originale, ce qui peut réduire le trafic et fragiliser les modèles économiques des médias.
- Un cercle similaire apparaît dans la musique et le cinéma, lorsque les contenus générés par l’IA entrent directement en concurrence avec les œuvres de créateurs dont les données ont auparavant contribué au développement de ces modèles.
- L’article cite des chiffres selon lesquels plus de 200 000 emplois auraient disparu dans les industries créatives américaines sur une période d’environ quatre ans, mais ces chiffres ne prouvent pas à eux seuls que l’IA en soit la cause directe.
- Le marché de l’emploi connaît également un cercle similaire : les candidats utilisent l’IA pour générer massivement des candidatures, tandis que les recruteurs utilisent l’IA pour les sélectionner, ce qui augmente le nombre de candidatures et rend plus difficile l’identification des bons profils.
- Le PDG de Greenhouse décrit une situation où chaque partie utilise l’IA pour résoudre son propre problème, mais où cette utilisation aggrave en même temps le problème de l’autre partie, créant ainsi de nouvelles raisons de continuer à utiliser l’IA.
- L’éducation constitue un autre exemple : les étudiants utilisent l’IA pour réaliser leurs travaux tandis que les enseignants l’utilisent pour créer des exercices, ce qui pourrait réduire le rôle de la réflexion directe des deux côtés.
- Le débat sur les droits d’auteur reste sans résolution. Les entreprises d’IA soutiennent que les résultats des modèles sont suffisamment différents des contenus sources pour relever du « fair use », tandis que les propriétaires de contenus continuent de contester cette position.
- Le risque à long terme soulevé par l’article est que l’IA ait constamment besoin de nouvelles connaissances, de culture et de contenus créés par les humains, tout en pouvant affaiblir les revenus et les incitations qui poussent les gens à continuer de produire ces ressources.
📌 Le concept de « doom loop » permet d’examiner l’IA à l’échelle d’un écosystème plutôt que de mesurer uniquement la productivité de chaque entreprise. L’IA peut aider chaque acteur à réduire ses coûts à court terme, mais si de nombreux acteurs optimisent simultanément leurs activités d’une manière qui affaiblit les données, l’emploi, les revenus ou la qualité des contenus disponibles, les bénéfices individuels peuvent générer des coûts collectifs. Il s’agit toutefois d’un commentaire fortement critique à l’égard de l’IA : il faut donc distinguer les éléments empiriques des affirmations causales de l’auteur.
