- Anthropic сообщает, что новые модели Claude будут автоматически добавлять водяные знаки в текст в соответствии с Законом ЕС об ИИ.
- Водяной знак не добавляет символов, не меняет содержание и не влияет на качество, читабельность или стоимость использования.
- Технология развернута по всему миру, так как Anthropic пока не может ограничить ее по отдельным регионам.
- Claude использует метод SynthID-Text, опубликованный Google DeepMind в журнале Nature в 2024 году.
- Механизм работы основан на выборе между словами с эквивалентным значением через специальный источник случайности вместо обычного генератора случайных чисел.
- Читатель не может заметить разницу, но система с ключом декодирования сможет оценить вероятность того, что текст был создан Claude.
- Водяной знак не содержит информации, идентифицирующей личность, организацию или разговор, и не позволяет отследить пользователя.
- Эффективность обнаружения растет вместе с длиной текста; короткие отрывки или контент с ограниченным выбором слов обнаружить сложнее.
- Когда Claude лишь слегка редактирует текст, написанный человеком, объема изменений обычно недостаточно для создания четкого признака идентификации.
- Исходный код имеет более низкий уровень водяных знаков, так как многие фрагменты требуют абсолютной точности, где правильным является только один вариант.
- В ближайшее время Claude предоставит API для обнаружения водяных знаков, чтобы проверять вероятность создания текста в Claude.
- Для изображений и файлов типа PNG, JPG или SVG Claude не использует водяные знаки, а встраивает метаданные по стандарту C2PA для фиксации происхождения контента.
- Anthropic отмечает, что легкая правка обычно не удаляет водяной знак полностью, но полное переписывание текста может стереть этот признак.
📌 Anthropic заявляет, что водяные знаки на тексте не предназначены для установления личности пользователя, а лишь помогают оценить вероятность участия Claude в создании или редактировании контента. Эта технология работает незаметно, не влияет на восприятие текста и основана на методе SynthID-Text от Google DeepMind. Это часть усилий по обеспечению прозрачности в соответствии с европейским Законом об ИИ, открывающая путь для массовой идентификации ИИ-контента в будущем.
