Claude가 쓰는 글에 몰래 '지문'이 찍힌다? Anthropic 워터마킹 논란 총정리

 

 

최근 AI 업계에서 꽤 시끄러운 논쟁이 하나 있더라고요.

바로 Anthropic이 발표한 Claude의 텍스트 워터마킹 정책입니다.

 

저명한 IT 칼럼니스트 존 그루버(John Gruber)가 자신의 블로그 Daring Fireball에

"Anthropic's 'Watermark' Text Adulteration in Claude Is a Perversion of Writing"

(Claude의 워터마크 텍스트 오염은 글쓰기에 대한 모독이다)라는 상당히 격한 제목의 글을 올렸는데요.

오늘은 이 워터마킹이 정확히 뭔지, 그리고 왜 이렇게 논란이 되는지 정리해봤습니다.

 

 

무슨 일이 있었나

 

Anthropic은 8월 14일, "Claude의 텍스트 워터마킹이 작동하는 방식"이라는 공식 문서를 발표했습니다.

앞으로 Claude가 생성하는 모든 텍스트(약 200토큰, 150단어 이상)에는 워터마크가 심어진다는 내용이었죠.

 

사실 이 발표 자체는 일주일 전쯤 처음 나왔었는데, 그때는 "어떻게" 워터마킹을 하는지에 대한 설명이

전혀 없었다고 합니다. 그래서 그루버를 포함한 많은 사람들이 "혹시 눈에 안 보이는 유니코드 문자를

몰래 끼워 넣는 거 아니냐"고 추측했었는데, 실제로는 훨씬 더 근본적인 방식이었습니다.

 

 

워터마킹은 실제로 어떻게 작동하나

 

핵심 원리는 이렇습니다. LLM은 다음 단어를 고를 때 여러 후보 중 하나를 선택하는데요,

"오늘 날씨는 춥고..." 다음에 올 단어로 '흐린'과 '잔뜩 구름 낀' 둘 다 자연스럽다면,

원래는 무작위로 하나를 고릅니다.

 

워터마킹을 적용하면, 이 무작위성의 원천을 바꿔버립니다.

비밀 키를 이용해서 단어들을 그때그때 'green(선호)'과 'red(비선호)' 목록으로 분류하고,

green 목록에 있는 단어를 조금 더 자주 고르게 만드는 거죠.

 

나중에 이 비밀 키를 가진 사람(=Anthropic)만이, 어떤 글에 green 단어가 통계적으로 예상보다

더 많이 등장하는지를 분석해서 "이 글이 Claude가 쓴 것일 확률"을 계산할 수 있습니다.

글이 길수록 판별 정확도는 올라가고, 짧은 글은 신뢰도가 낮아집니다.

 

Anthropic이 사용하는 방식은 구글 딥마인드가 2024년 Nature에 발표한 SynthID-Text 기법을

기반으로 한 거라고 하네요.

 

 

뭐가 문제라는 걸까

 

Anthropic 측 공식 설명은 이렇습니다.

 

"워터마킹은 출력 품질에 실질적인 영향을 주지 않으며, 독자는 워터마크가 적용된 글과
적용되지 않은 글을 구분할 수 없습니다."

 

그런데 그루버는 이 설명 자체가 문제의 핵심이라고 지적합니다.

"흐린"과 "잔뜩 구름 낀"이 독자에게 별 차이가 없다고 말하는 것 자체가,

글쓰기에서 단어 선택이 갖는 의미를 가볍게 보는 태도라는 거죠.

 

더 흥미로운 비유로 구글의 SynthID 설명 문서를 예로 들었는데요,

"제가 좋아하는 열대 과일은 망고와..."라는 문장에서 다음 단어로

'바나나'가 '비행기'보다 확률이 높다는 설명을 하면서 "눈에 띄지 않는다"고 주장하는데,

그루버는 "그럼 '바나나' 대신 '파인애플'이었으면 어땠을까? 그 선택이 green/red 리스트 때문인지,

아니면 정말 최선의 단어였는지 이제 아무도 확신할 수 없게 됐다"고 꼬집습니다.

 

즉, 워터마킹이 적용되는 순간부터 모델이 고른 모든 단어가 "정말 최선이라서 고른 건지,

아니면 그냥 워터마킹 규칙 때문에 고른 건지" 알 수 없게 된다는 게 비판의 핵심입니다.

 

 

왜 이런 걸 하는 걸까

 

이유는 EU AI Act입니다. 2026년 7월 Anthropic을 포함한 190여 개 기업이

"AI 생성 콘텐츠 투명성에 관한 실천 강령(Code of Practice)"에 서명했고,

이 규정이 AI가 생성한 텍스트에 마킹을 하도록 요구하고 있다고 하네요.

 

재밌는 건, 이 규정은 EU 지역에만 적용되는 건데도 Anthropic은 전 세계적으로

워터마킹을 적용하기로 했다는 점입니다. 이유는 "지역별로 구분해서 적용할 안정적인 방법이

아직 없어서"라고 밝혔는데, 그루버는 "시가총액 2조 달러(세계 7위권)를 노리는 회사가

지역별로 기능을 구분할 기술이 없다는 게 말이 되냐"며 날을 세웠습니다.

 

 

다른 사람들의 반응

 

- James Padolsey (declaude.org 개발자) : "이 법이 만들어낸 발상이라면, 계산기가 처음

나왔을 때도 똑같이 적용됐어야 한다"며, 워터마킹이 무해한 사용자까지 의심의 대상으로

만들면서도 정작 의도적으로 속이려는 사람은 쉽게 피해간다고 지적했습니다.

- Michael Lopp (Rands in Repose) : "내 글은 내 작업물이다. Anthropic의 이번 전략은

공격적으로 작가에게 적대적이다."

- Jeff Gamet : Claude로 교정만 봐도 워터마크가 남을 수 있어서, 사람이 직접 쓰고

AI로 교정만 본 글이 "AI 생성물"로 오해받을 소지가 있다고 우려했습니다.

 

반면 OpenAI는 아직 텍스트 전체에 워터마킹을 강제 적용하겠다는 명확한 선언은

하지 않은 상태라, 상대적으로 대비되는 모습이었습니다.

 

 

정리하며

 

Anthropic의 공식 입장은 명확합니다. "품질에 영향 없고, 사용자를 특정할 수도 없으며,

숨겨진 문자도 추가되지 않는다"는 거죠. 코드나 사실 관계처럼 '정답'이 명확한 부분에는

워터마킹을 거의 적용하지 않는다는 설명도 있었습니다.

 

다만 비밀 키 기반이라 검증은 오직 Anthropic만 할 수 있다는 점, 그리고 '거의 동등한'

단어 선택이라는 게 결국 미묘하게 결과물의 결을 바꾼다는 우려는 여전히 남아있는 것 같습니다.

AI로 글을 쓰거나 다듬는 분들이라면, 앞으로 이 이슈를 한 번쯤 짚어볼 만하네요.

 

 

 

#Anthropic #Claude #워터마킹 #AI워터마크 #EU AI Act #SynthID #존그루버 #DaringFireball #AI글쓰기 #AI규제