- Una ricerca del MIT CSAIL mostra che quando i modelli di IA generativa vengono addestrati con set di dati enormi, tracciare l’origine dell’output fino a ogni singola opera originale non è quasi più fattibile.
- Il gruppo di ricerca chiama questo fenomeno “decadimento dell’attribuzione” (attribution decay), ovvero la capacità di ricondurre l’output a singoli dati di addestramento diminuisce all’aumentare della scala dei dati.
- Gli esperimenti mostrano che è possibile eliminare un’immagine, l’intera opera di un artista o tutte le foto di una persona dai dati di addestramento senza che l’output cambi quasi per nulla.
- Secondo il team di ricerca, se rimuovendo un dato il risultato non cambia, quel dato non può essere considerato la causa che ha generato l’output.
- Hanno sviluppato l’architettura “diffusion ensemble”, dividendo il modello in molti piccoli componenti per eliminare con precisione l’influenza di singoli dati senza dover riaddestrare tutto.
- Il team ha confrontato il nuovo sistema con 24 modelli di diffusione tradizionali sugli stessi dati, ottenendo una qualità dell’immagine equivalente.
- Il test ha utilizzato oltre 160.000 immagini provenienti da 7 set di dati pubblici come CIFAR-10, CelebA, MetFaces e ArtBench.
- I risultati mostrano che l’influenza di ogni singolo dato diminuisce secondo una legge di potenza inversa all’aumentare della scala dei dati.
- Il gruppo ha addestrato altri 1.282 modelli separati per verifica, ottenendo risultati simili.
- Il professor David Gifford ritiene che questa scoperta rimetta in discussione se l’output dell’IA sia ancora un’opera derivata o se sia idoneo alla protezione del copyright.
- La ricerca suggerisce inoltre che le società di IA potrebbero costruire modelli che garantiscano che l’output non sia riconducibile a singole opere specifiche.
- Gli autori sottolineano che la ricerca si applica attualmente solo ai modelli di diffusione per la creazione di immagini e non è ancora confermata per i grandi modelli linguistici.
📌 Il lavoro del MIT offre una nuova prospettiva sul copyright dell’IA generativa. Quando i dati di addestramento sono sufficientemente grandi, le singole opere non hanno quasi più un’influenza significativa sull’immagine generata, rendendo molto difficile identificare l’“autore originale”. Questa scoperta potrebbe avere un forte impatto sulle cause legali relative al copyright dell’IA, sulle modalità di valutazione delle opere derivate e sulle normative di compensazione per i creatori, sebbene non sia ancora stata dimostrata la sua applicazione ai grandi modelli linguistici.
