- 앤스로픽은 유럽연합(EU) AI 법을 준수하기 위해 새로운 클로드 모델이 텍스트에 자동으로 워터마크를 삽입할 것이라고 밝혔다.
- 워터마크는 문자를 추가하거나 내용을 변경하지 않으며, 품질, 가독성 또는 사용 비용에 영향을 미치지 않는다.
- 앤스로픽은 아직 지역별로 제한할 수 없기 때문에 이 기술을 전 세계적으로 적용한다.
- 클로드는 2024년 구글 딥마인드가 네이처(Nature)지에 발표한 ‘SynthID-Text’ 방식을 사용한다.
- 작동 원리는 일반적인 난수 생성기 대신 특수한 무작위 소스를 통해 의미가 동일한 단어들 중에서 선택을 조정하는 방식이다.
- 독자는 차이를 인지할 수 없지만, 복호화 키가 있는 시스템은 해당 텍스트가 클로드에 의해 생성되었을 확률을 추정할 수 있다.
- 워터마크에는 개인, 조직 또는 대화 식별 정보가 포함되지 않으며 사용자를 역추적할 수 없다.
- 탐지 효율은 텍스트 길이에 따라 증가하며, 짧은 문장이나 단어 선택 폭이 좁은 콘텐츠는 탐지가 더 어렵다.
- 클로드가 사람이 쓴 글을 가볍게 교정만 한 경우, 변경량이 너무 적어 명확한 식별 징후를 생성하지 못할 수 있다.
- 소스 코드는 절대적인 정확성이 요구되는 부분이 많아 워터마크 적용 수준이 낮다.
- 클로드는 조만간 해당 텍스트가 클로드에 의해 생성되었는지 확인할 수 있는 탐지 API를 제공할 예정이다.
- 이미지나 PNG, JPG, SVG 파일의 경우 워터마크 대신 C2PA 표준에 따른 메타데이터를 부착하여 콘텐츠의 출처를 기록한다.
- 앤스로픽은 가벼운 수정으로는 워터마크가 완전히 삭제되지 않지만, 전체 문장을 다시 쓰면 식별 징후가 사라질 수 있다고 언급했다.
📌 앤스로픽은 텍스트 워터마크가 사용자 식별을 위한 것이 아니라, 클로드가 콘텐츠 생성이나 수정에 참여했는지 여부를 평가하기 위한 것이라고 설명했다. 이 기술은 독서 경험에 영향을 주지 않고 조용히 작동하며, 구글 딥마인드의 SynthID-Text 방식을 기반으로 한다. 이는 유럽 AI 법의 투명성 요건을 충족하기 위한 노력의 일환이며, 향후 대규모 AI 콘텐츠 식별을 위한 길을 열어주는 조치이다.
