- Une étude du MIT CSAIL montre que lorsque les modèles d’IA générative sont entraînés sur des ensembles de données massifs, il n’est presque plus possible de tracer l’origine d’un résultat jusqu’à une œuvre originale spécifique.
- L’équipe de recherche appelle ce phénomène le « déclin de l’attribution » (attribution decay) : la capacité à attribuer un résultat à une donnée d’entraînement spécifique diminue à mesure que l’échelle des données augmente.
- Les tests montrent qu’il est possible de supprimer une image, l’œuvre complète d’un artiste ou toutes les photos d’une personne des données d’entraînement sans que le résultat final ne change pratiquement.
- Selon l’équipe de recherche, si le fait de retirer une donnée ne modifie pas le résultat, alors cette donnée ne peut être considérée comme la cause de la production du résultat.
- Ils ont développé l’architecture « diffusion ensemble », divisant le modèle en plusieurs petits composants pour éliminer précisément l’influence de chaque donnée sans avoir à réentraîner l’ensemble.
- L’équipe a comparé le nouveau système à 24 modèles de diffusion traditionnels sur les mêmes données, avec une qualité d’image générée équivalente.
- L’expérimentation a utilisé plus de 160 000 images provenant de 7 bases de données publiques comme CIFAR-10, CelebA, MetFaces et ArtBench.
- Les résultats montrent que l’influence de chaque donnée diminue selon une loi de puissance inverse à mesure que la quantité de données augmente.
- L’équipe a également entraîné 1 282 modèles distincts pour vérification, obtenant des résultats similaires.
- Le professeur David Gifford estime que cette découverte remet en question le fait de savoir si le résultat d’une IA est toujours une œuvre dérivée ou s’il est éligible à la protection par le droit d’auteur.
- L’étude suggère également que les entreprises d’IA pourraient construire des modèles garantissant que les résultats ne peuvent être attribués à des œuvres spécifiques.
- Les auteurs notent que l’étude ne s’applique pour l’instant qu’aux modèles de diffusion (images) et n’a pas encore été confirmée pour les grands modèles de langage.
📌 Les travaux du MIT apportent un nouvel éclairage sur le droit d’auteur lié à l’IA générative. Lorsque les données d’entraînement sont suffisamment vastes, chaque œuvre individuelle n’a presque plus d’influence significative sur l’image générée, rendant l’identification d’un « auteur source » très difficile. Cette découverte pourrait avoir un impact majeur sur les procès en droit d’auteur contre l’IA, l’évaluation des œuvres dérivées et les règles d’indemnisation des créateurs, bien qu’elle ne soit pas encore prouvée pour les grands modèles de langage.
