앤트로픽, 클로드(Claude) AI 워터마크 작동 원리 공개…EU AI법 대응

앤트로픽(Anthropic)이 자사 AI 모델 클로드(Claude)의 새로운 워터마크 기능이 실제로 어떻게 작동하는지에 대한 세부 내용을 공개했다. 이번 워터마크는 구글 딥마인드(Google DeepMind)의 신시아이디-텍스트(SynthID-Text) 기술을 기반으로 하며, 텍스트 품질 저하 없이 AI 생성 여부를 암호학적으로 판별할 수 있도록 설계됐다.

배경

생성형 AI가 작성한 텍스트와 사람이 쓴 글을 구분하는 문제는 학계 부정행위, 허위정보 확산, 콘텐츠 투명성 등 여러 측면에서 지속적으로 제기돼 온 이슈다. 앤트로픽은 이번 워터마크 기술을 EU AI법(EU AI Act)의 투명성 규정 준수 차원에서 도입했다고 밝혔으며, 다른 주요 AI 개발사들도 유사한 서명 코드를 통해 자체 워터마크를 구현할 예정이라고 설명했다.

워터마크의 작동 원리는 클로드가 "흐린 날씨"를 표현할 때 "overcast"와 "grey" 같은 동의어 중 하나를 선택하는 것처럼, 문장을 구성하는 과정에서 발생하는 작은 선택들에 특정 패턴을 심는 방식이다. 앤트로픽에 따르면 이 패턴은 일반 독자에게는 감지되지 않지만, 암호화 키를 보유한 쪽에서는 탐지할 수 있다.

영향

앤트로픽은 "워터마킹은 클로드의 출력 품질에 영향을 주지 않는다"고 밝혀, 워터마크 도입이 사용자 경험을 해치지 않는다는 점을 강조했다. 다만 텍스트를 가볍게 편집하는 정도로는 워터마크가 완전히 제거되지 않으며, 모든 단어를 교체하는 수준의 전면 재작성을 해야 워터마크가 사라질 수 있다. 앤트로픽은 이 경우 "그렇게 완전히 재작성된 텍스트는 더 이상 AI가 생성한 것으로 보기 어렵다는 주장이 제기될 수 있다"고 덧붙였다.

코드 생성에 미치는 영향도 관심사다. 코드는 일반 텍스트보다 워터마크가 적게 포함되는데, 이는 모델이 정상적으로 작동하는 코드를 만들어야 하는 제약 때문에 동등한 표현 중에서 자유롭게 선택할 여지가 적기 때문이다. 다만 코드 주석처럼 임의로 선택할 수 있는 영역에서는 워터마킹이 이뤄지며, 앤트로픽은 이것이 "실제 생성된 코드에는 무시할 수 있는 수준의 영향"만 미친다고 설명했다.

향후 전망

EU AI법을 비롯한 각국의 AI 투명성 규제가 강화되는 흐름 속에서, 클로드의 워터마크 기술이 업계 표준으로 자리 잡을지 주목된다. 다른 주요 AI 개발사들이 유사한 워터마킹을 도입할 예정인 만큼, AI 생성 콘텐츠 판별 기술을 둘러싼 표준화 및 상호운용성 논의도 이어질 전망이다. 또한 워터마크를 우회하려는 시도와 이를 막으려는 기술 간의 공방도 계속될 것으로 보인다.

자주 묻는 질문

Q. 클로드의 워터마크는 어떤 기술을 기반으로 하나? A. 구글 딥마인드가 개발한 신시아이디-텍스트(SynthID-Text) 기술을 기반으로 하며, 단어 선택 과정에 감지 가능한 패턴을 심는 방식이다.

Q. 워터마크를 편집으로 지울 수 있나? A. 가벼운 편집으로는 워터마크가 제거되지 않으며, 모든 단어를 교체하는 수준의 전면 재작성을 해야 워터마크가 사라질 수 있다.

Q. 워터마크가 코드 생성에도 적용되나? A. 적용되지만 영향은 제한적이다. 정상 작동해야 하는 코드 특성상 워터마크가 적게 포함되며, 코드 주석 등 임의 선택이 가능한 부분에서만 주로 적용된다.

출처 - https://techcrunch.com/2026/08/15/anthropic-shares-more-details-about-how-claudes-new-watermarks-will-work/