- Anthropic ha dichiarato che i nuovi modelli Claude inseriranno automaticamente dei watermark nei testi per conformarsi all’EU AI Act.
- Il watermark non aggiunge caratteri, non cambia il contenuto e non influisce sulla qualità, sulla leggibilità o sui costi di utilizzo.
- La tecnologia è distribuita a livello globale poiché Anthropic non è ancora in grado di limitarla per singole regioni.
- Claude utilizza il metodo SynthID-Text pubblicato da Google DeepMind sulla rivista Nature nel 2024.
- Il meccanismo si basa sulla scelta tra parole con significato equivalente attraverso una speciale fonte casuale invece di un comune generatore di numeri casuali.
- Il lettore non può percepire la differenza, ma un sistema dotato di chiave di decrittazione potrà stimare la probabilità che il testo sia stato generato da Claude.
- Il watermark non contiene informazioni che identifichino individui, organizzazioni o conversazioni e non può essere ricondotto all’utente.
- L’efficacia del rilevamento aumenta con la lunghezza del testo; i brevi frammenti o i contenuti con pochissime opzioni lessicali sono più difficili da individuare.
- Quando Claude esegue solo una leggera revisione di un testo scritto da un essere umano, la quantità di modifiche è spesso troppo esigua per creare un segno identificativo chiaro.
- Il codice sorgente ha un livello inferiore di watermark poiché molti segmenti richiedono un output di precisione assoluta con una sola scelta corretta.
- Claude fornirà prossimamente un’API di rilevamento per verificare la probabilità che un testo sia stato creato da Claude.
- Per le immagini e i file come PNG, JPG o SVG, Claude non usa watermark ma inserisce metadati secondo lo standard C2PA per registrare l’origine del contenuto.
- Anthropic osserva che modifiche leggere di solito non eliminano completamente il watermark, ma riscrivere l’intero testo può far scomparire il segno.
📌 Anthropic afferma che il watermark testuale non mira a identificare l’identità dell’utente, ma aiuta solo a valutare la probabilità che Claude abbia partecipato alla creazione o alla modifica del contenuto. Questa tecnologia agisce silenziosamente, non influisce sull’esperienza di lettura e si basa sul metodo SynthID-Text di Google DeepMind. Fa parte dell’impegno per soddisfare i requisiti di trasparenza dell’AI Act europeo, aprendo al contempo la strada all’identificazione dei contenuti IA su larga scala in futuro.
