Anthropic, Claude 생성 텍스트에 기계 판독용 워터마크 도입
복사·일부 편집에도 남을 수 있어…대폭 재작성·번역 뒤에는 탐지 약화
사람이 직접 쓴 글을 교정만 맡겨도 표시될 수 있어 ‘AI 사용’과 ‘AI 저작’ 구별 논란
사람이 쓴 글인지 AI가 쓴 글인지 구별하기 위해 사람 눈에 보이지 않는 기계 판독용 신호를 텍스트 자체에 넣는 방식이 등장했다. 이는 문체 분석을 통한 AI 사용여부 판단 방법과 다른 방식이다.
앤트로픽(Anthropic)은 Claude가 생성하는 문장에 ‘비가시적 워터마크’를 삽입할 것이라고 발표했다. 앤트로픽에 의하면, 2026년 8월 2일 이후 EU에서 출시되는 새로운 Claude 모델은 출시 때부터 워터마크 기능을 추가하며, 기존 모델에도 순차적으로 추가하고 있다. 워터마크는 EU에서만 해당되는 것이 아니고 전 세계에서 적용된다.
이 발표는 8월 2일부터 유럽연합(EU)이 적용하기 시작한 AI Act 제50조의 투명성 규정에 관한 내용에 따른 조치다. EU는 생성형 AI 제공자에게 AI가 생성한 텍스트·이미지·음성·영상에 기계가 읽을 수 있는 표시를 넣어 신뢰할 수 있도록 요구하고 있다. 8월 2일 이전에 출시된 기존 AI 시스템에 대해서는 표시·탐지 의무와 관련하여 2026년 12월 2일까지 제한적인 유예기간이 인정된다.
눈에 보이지 않는 표시를 어떻게 넣나
앤트로픽은 Claude 모델에 사람이 눈으로 감지할 수 없는 워터마크를 텍스트 자체에 직접 넣는다고 전했다. 따라서 글의 의미나 가독성에는 영향을 주지 않으며 모델 단계에서 생성되기 때문에 워터마크를 지원하는 모델이라면 Claude 웹서비스나 API 등 관계없이 적용된다.
사진이나 영상의 경우 워터마크가 한쪽에 들어갈 수 있지만 과연 문자에 워터마크를 넣는다는 것이 가능한 것인지에 대한 궁금증이 생긴다. 그러나 앤트로픽은 정확히 어떤 알고리즘으로 워터마크를 넣는지 아직 공개하지 않았지만 향후 기술을 공개하겠다고 밝힌 상태다.
이와 유사한 기술이 어떻게 가능한지는 구글 딥마인드의 ‘SynthID Text’를 통해 짐작할 수 있다. SynthID는 AI가 문장을 써가는 과정에서 어떤 단어를 쓸 것인지 선택할 때 가능한 단어들을 확률적으로 조절한다. 개별 문장에서는 사람이 차이를 인지하기 어렵지만 이런 선택이 축적되면서 통계적으로 탐지할 수 있는 패턴이 만들어진다. Google은 이 기술이 문장의 품질이나 생성 속도를 저해하지 않으면서 워터마크를 삽입할 수 있다고 한다.
그러나 아직 Claude가 SynthID와 같은 방식을 사용하는지 밝히지 않았기 때문에 상기 연구 결과가 적용될지는 미지수다.
학계, 가능과 불확실 엇갈려
Google DeepMind 연구진은 2024년 Nature에 발표된 SynthID-Text 연구에서 워터마킹 기술을 실제 대규모 언어모델에 적용할 수 있으며 문장 품질을 크게 저하시키지 않고 상당한 수준으로 탐지가 가능하다고 보고했다.
메릴랜드대 John Kirchenbauer·Jonas Geiping·Tom Goldstein 등이 참여한 연구팀은 자신들이 시험한 워터마크 방식에서는 사람이 글을 다시 쓰거나 다른 AI가 문장을 재서술한 뒤에도 충분한 분량의 원래 표현이 남아 있으면 워터마크를 찾아낼 수 있다고 보고했다. 특히 사람이 상당 부분을 다시 쓴 경우에도 평균 약 800토큰을 분석하면 매우 낮은 오탐률 조건에서 워터마크 탐지가 가능했다고 밝혔다.
반면, 사이푸르 라흐만 타밈과 아미르 라비브 칸 연구진에 의하면, 2026년 7월 공개한 연구에서 텍스트 워터마크 방식 중 KGW와 Unigram 방식에서는 패러프레이징을 한 후 기존에 탐지되던 워터마크가 탐지 기준 이하로 떨어졌다. 또한 SynthID 자체가 아닌 그 기술을 재현한 공개 프로그램으로 실험한 결과, 처음에는 워터마크가 탐지됐던 샘플 가운데 패러프레이징 이후 98.3%에서 워터마크를 더 이상 탐지하지 못했다.
그러나 이 연구는 아직 동료심사를 거치지 않은 사전공개 논문(preprint)이며, Google이 실제 사용하는 SynthID가 아니라 공개된 MarkLLM 구현을 이용했으므로, 이 결과를 Google의 SynthID나 Anthropic의 Claude 워터마크에도 적용할 수 없다는 한계를 지닌다.
이렇듯 어떤 연구에서는 상당량 편집 이후에도 충분히 긴 글에서는 워터마크가 남았고, 다른 실험에서는 탐지 성능이 크게 떨어졌다. 이는 워터마크 알고리즘과 글의 길이, 수정 방법, 탐지 기준에 따라 달라질 수 있다는 것을 시사한다.
메모장이나 코딩 제거 도구를 거치면 워터마크가 제거되나
웹페이지에서 가져온 글을 메모장이나 HTML·서식 제거 도구에 넣으면 글꼴이나 색상, HTML 태그, 메타데이터 등 텍스트에 붙어 있던 각종 부가정보는 제거될 수 있다. 만일 워터마크가 이런 숨은 코드나 메타데이터 방식으로 들어간다면 사라질 수도 있다. 그러나 Claude의 텍스트 워터마크가 정확히 어떤 기술로 삽입되는지는 아직 공개되지 않았다. Anthropic이 공식적으로 밝힌 것은 워터마크가 텍스트 자체에 포함되며, 일반적인 복사·붙여넣기와 일부 편집 뒤에도 남을 수 있다는 내용이 전부다. 따라서 Claude의 글을 메모장이나 코드 제거 도구를 거쳤다고해서 워터마크가 사라진다고 현재로서는 단정할 수 없다.
구글 SynthID Text는 HTML 태그나 숨은 문자에 표시를 넣는 것이 아니라, AI가 문장을 생성할 때 어떤 단어나 토큰을 선택할 것인지에 관한 확률을 미세하게 조정해 글 전체에 통계적 신호를 남기는 방식이다. 이런 방식이라면 HTML이나 서식을 모두 제거하더라도 문장 자체가 그대로 유지되는 한 워터마크 신호는 남는다.
반면, AI 제거 도구라고 불리는 ‘AI 휴머나이저’나 재작성 도구처럼 문장 자체를 다른 표현으로 바꾸는 경우에는 단어 선택과 어순, 문장 구조를 바꾸기 때문에 워터마크 신호가 약해질 수 있다. 다만, 이 경우 역시 Claude의 새 워터마크에도 적용된다고 단정할 수는 없다. Anthropic이 아직 구체적인 삽입·탐지 알고리즘을 공개하지 않았기 때문이다.
사람이 쓴 글을 ‘다듬어 달라’고 한다면?
워터마크 제도에서 가장 논란이 되는 것은 사람이 직접 쓴 글을 Claude로 다듬는 경우에도 워터마크가 붙을 수 있다는 점이다.
앤트로픽은 사람이 작성한 원문을 Claude로 교정하거나, 요약 혹은 번역을 하는 경우에도 워터마크가 포함될 수 있다고 공식적으로 밝혔다. 예를 들어 사람이 스스로 5천 자 분량의 칼럼을 처음부터 끝까지 직접 작성한 뒤 Claude에게 “맞춤법과 어색한 문장만 다듬어 달라”고 요청했다고 하자. Claude가 일부 표현과 문장을 고쳤다면, 글의 주제와 주장, 논리와 원문 대부분이 인간에게서 나왔더라도 최종 텍스트에는 Claude의 워터마크가 남을 수 있다.
때문에 워터마크가 발견되었다고해서 AI 작성 글이라고 판단해서는 안 된다. 앤트로픽도 워터마크는 글이 Claude를 거쳤을 가능성을 보여주는 것일 뿐, 누가 원래 글을 썼는지 또는 글 전체의 출처가 무엇인지를 확정하는 증거는 아니라고 설명한다.
이렇게 사람이 직접 작성한 글까지 AI가 쓴 글로 오인하는 새로운 문제가 발생한다면, 텍스트 워터마크 도입이 사람 글과 AI 글을 가늠하는 역할을 제대로 할 수 없다는 모순이 발생한다.
디지털 헬스기업 Klick의 사이먼 스미스는 사람이 작성한 글을 Claude로 문법 검사만 했는데도 AI가 작성한 것으로 오인될 수 있다고 문제를 제기했다.
EU AI Act 역시 간단한 AI 사용과 전면적인 AI 생성을 구별하고 있다. EU 집행위원회는 AI가 통상적인 편집을 보조하는 기능만 수행하는 경우에는 기계 판독 표시 의무에 예외가 있을 수 있다고 설명한다. 또한 공익적 사안에 관한 AI 생성 텍스트도 전문적인 인간 검토나 수정 및 편집을 거쳤고 사람이 최종 책임을 지는 경우에는 공개 표시 의무 예외가 적용된다.
후속기사 : 앤트로픽 Claude 텍스트 워터마크 정체 공개! …단어 선택의 비밀
참고문헌: Anthropic, 「Claude가 AI 생성 콘텐츠를 표시하는 방법」, Anthropic 지원 센터, 2026.
https://support.claude.com/ko/articles/16266773-claude가-ai-생성-콘텐츠를-표시하는-방법
/ AI 전문 기자·칼럼니스트 최은경
노바토포스 ‘AI 뉴스’ 코너는 자료 조사·정리 과정에서 디지털 자료나 생성형 AI를 활용 합니다. 모든 기사는 노바토포스 편집자가 출처와 사실관계를 확인하고, 필요한 수정과 편집을 거쳐 최종 게재합니다.
사람이 쓴 글인지 AI가 쓴 글인지 구별하기 위해 사람 눈에 보이지 않는 기계 판독용 신호를 텍스트 자체에 넣는 방식이 등장했다. 이는 문체 분석을 통한 AI 사용여부 판단 방법과 다른 방식이다.
앤트로픽(Anthropic)은 Claude가 생성하는 문장에 ‘비가시적 워터마크’를 삽입할 것이라고 발표했다. 앤트로픽에 의하면, 2026년 8월 2일 이후 EU에서 출시되는 새로운 Claude 모델은 출시 때부터 워터마크 기능을 추가하며, 기존 모델에도 순차적으로 추가하고 있다. 워터마크는 EU에서만 해당되는 것이 아니고 전 세계에서 적용된다.
이 발표는 8월 2일부터 유럽연합(EU)이 적용하기 시작한 AI Act 제50조의 투명성 규정에 관한 내용에 따른 조치다. EU는 생성형 AI 제공자에게 AI가 생성한 텍스트·이미지·음성·영상에 기계가 읽을 수 있는 표시를 넣어 신뢰할 수 있도록 요구하고 있다. 8월 2일 이전에 출시된 기존 AI 시스템에 대해서는 표시·탐지 의무와 관련하여 2026년 12월 2일까지 제한적인 유예기간이 인정된다.
눈에 보이지 않는 표시를 어떻게 넣나
앤트로픽은 Claude 모델에 사람이 눈으로 감지할 수 없는 워터마크를 텍스트 자체에 직접 넣는다고 전했다. 따라서 글의 의미나 가독성에는 영향을 주지 않으며 모델 단계에서 생성되기 때문에 워터마크를 지원하는 모델이라면 Claude 웹서비스나 API 등 관계없이 적용된다.
사진이나 영상의 경우 워터마크가 한쪽에 들어갈 수 있지만 과연 문자에 워터마크를 넣는다는 것이 가능한 것인지에 대한 궁금증이 생긴다. 그러나 앤트로픽은 정확히 어떤 알고리즘으로 워터마크를 넣는지 아직 공개하지 않았지만 향후 기술을 공개하겠다고 밝힌 상태다.
이와 유사한 기술이 어떻게 가능한지는 구글 딥마인드의 ‘SynthID Text’를 통해 짐작할 수 있다. SynthID는 AI가 문장을 써가는 과정에서 어떤 단어를 쓸 것인지 선택할 때 가능한 단어들을 확률적으로 조절한다. 개별 문장에서는 사람이 차이를 인지하기 어렵지만 이런 선택이 축적되면서 통계적으로 탐지할 수 있는 패턴이 만들어진다. Google은 이 기술이 문장의 품질이나 생성 속도를 저해하지 않으면서 워터마크를 삽입할 수 있다고 한다.
그러나 아직 Claude가 SynthID와 같은 방식을 사용하는지 밝히지 않았기 때문에 상기 연구 결과가 적용될지는 미지수다.
학계, 가능과 불확실 엇갈려
Google DeepMind 연구진은 2024년 Nature에 발표된 SynthID-Text 연구에서 워터마킹 기술을 실제 대규모 언어모델에 적용할 수 있으며 문장 품질을 크게 저하시키지 않고 상당한 수준으로 탐지가 가능하다고 보고했다.
메릴랜드대 John Kirchenbauer·Jonas Geiping·Tom Goldstein 등이 참여한 연구팀은 자신들이 시험한 워터마크 방식에서는 사람이 글을 다시 쓰거나 다른 AI가 문장을 재서술한 뒤에도 충분한 분량의 원래 표현이 남아 있으면 워터마크를 찾아낼 수 있다고 보고했다. 특히 사람이 상당 부분을 다시 쓴 경우에도 평균 약 800토큰을 분석하면 매우 낮은 오탐률 조건에서 워터마크 탐지가 가능했다고 밝혔다.
반면, 사이푸르 라흐만 타밈과 아미르 라비브 칸 연구진에 의하면, 2026년 7월 공개한 연구에서 텍스트 워터마크 방식 중 KGW와 Unigram 방식에서는 패러프레이징을 한 후 기존에 탐지되던 워터마크가 탐지 기준 이하로 떨어졌다. 또한 SynthID 자체가 아닌 그 기술을 재현한 공개 프로그램으로 실험한 결과, 처음에는 워터마크가 탐지됐던 샘플 가운데 패러프레이징 이후 98.3%에서 워터마크를 더 이상 탐지하지 못했다.
그러나 이 연구는 아직 동료심사를 거치지 않은 사전공개 논문(preprint)이며, Google이 실제 사용하는 SynthID가 아니라 공개된 MarkLLM 구현을 이용했으므로, 이 결과를 Google의 SynthID나 Anthropic의 Claude 워터마크에도 적용할 수 없다는 한계를 지닌다.
이렇듯 어떤 연구에서는 상당량 편집 이후에도 충분히 긴 글에서는 워터마크가 남았고, 다른 실험에서는 탐지 성능이 크게 떨어졌다. 이는 워터마크 알고리즘과 글의 길이, 수정 방법, 탐지 기준에 따라 달라질 수 있다는 것을 시사한다.
메모장이나 코딩 제거 도구를 거치면 워터마크가 제거되나
웹페이지에서 가져온 글을 메모장이나 HTML·서식 제거 도구에 넣으면 글꼴이나 색상, HTML 태그, 메타데이터 등 텍스트에 붙어 있던 각종 부가정보는 제거될 수 있다. 만일 워터마크가 이런 숨은 코드나 메타데이터 방식으로 들어간다면 사라질 수도 있다. 그러나 Claude의 텍스트 워터마크가 정확히 어떤 기술로 삽입되는지는 아직 공개되지 않았다. Anthropic이 공식적으로 밝힌 것은 워터마크가 텍스트 자체에 포함되며, 일반적인 복사·붙여넣기와 일부 편집 뒤에도 남을 수 있다는 내용이 전부다. 따라서 Claude의 글을 메모장이나 코드 제거 도구를 거쳤다고해서 워터마크가 사라진다고 현재로서는 단정할 수 없다.
구글 SynthID Text는 HTML 태그나 숨은 문자에 표시를 넣는 것이 아니라, AI가 문장을 생성할 때 어떤 단어나 토큰을 선택할 것인지에 관한 확률을 미세하게 조정해 글 전체에 통계적 신호를 남기는 방식이다. 이런 방식이라면 HTML이나 서식을 모두 제거하더라도 문장 자체가 그대로 유지되는 한 워터마크 신호는 남는다.
반면, AI 제거 도구라고 불리는 ‘AI 휴머나이저’나 재작성 도구처럼 문장 자체를 다른 표현으로 바꾸는 경우에는 단어 선택과 어순, 문장 구조를 바꾸기 때문에 워터마크 신호가 약해질 수 있다. 다만, 이 경우 역시 Claude의 새 워터마크에도 적용된다고 단정할 수는 없다. Anthropic이 아직 구체적인 삽입·탐지 알고리즘을 공개하지 않았기 때문이다.
사람이 쓴 글을 ‘다듬어 달라’고 한다면?
워터마크 제도에서 가장 논란이 되는 것은 사람이 직접 쓴 글을 Claude로 다듬는 경우에도 워터마크가 붙을 수 있다는 점이다.
앤트로픽은 사람이 작성한 원문을 Claude로 교정하거나, 요약 혹은 번역을 하는 경우에도 워터마크가 포함될 수 있다고 공식적으로 밝혔다. 예를 들어 사람이 스스로 5천 자 분량의 칼럼을 처음부터 끝까지 직접 작성한 뒤 Claude에게 “맞춤법과 어색한 문장만 다듬어 달라”고 요청했다고 하자. Claude가 일부 표현과 문장을 고쳤다면, 글의 주제와 주장, 논리와 원문 대부분이 인간에게서 나왔더라도 최종 텍스트에는 Claude의 워터마크가 남을 수 있다.
때문에 워터마크가 발견되었다고해서 AI 작성 글이라고 판단해서는 안 된다. 앤트로픽도 워터마크는 글이 Claude를 거쳤을 가능성을 보여주는 것일 뿐, 누가 원래 글을 썼는지 또는 글 전체의 출처가 무엇인지를 확정하는 증거는 아니라고 설명한다.
이렇게 사람이 직접 작성한 글까지 AI가 쓴 글로 오인하는 새로운 문제가 발생한다면, 텍스트 워터마크 도입이 사람 글과 AI 글을 가늠하는 역할을 제대로 할 수 없다는 모순이 발생한다.
디지털 헬스기업 Klick의 사이먼 스미스는 사람이 작성한 글을 Claude로 문법 검사만 했는데도 AI가 작성한 것으로 오인될 수 있다고 문제를 제기했다.
EU AI Act 역시 간단한 AI 사용과 전면적인 AI 생성을 구별하고 있다. EU 집행위원회는 AI가 통상적인 편집을 보조하는 기능만 수행하는 경우에는 기계 판독 표시 의무에 예외가 있을 수 있다고 설명한다. 또한 공익적 사안에 관한 AI 생성 텍스트도 전문적인 인간 검토나 수정 및 편집을 거쳤고 사람이 최종 책임을 지는 경우에는 공개 표시 의무 예외가 적용된다.
후속기사 : 앤트로픽 Claude 텍스트 워터마크 정체 공개! …단어 선택의 비밀
참고문헌: Anthropic, 「Claude가 AI 생성 콘텐츠를 표시하는 방법」, Anthropic 지원 센터, 2026.
https://support.claude.com/ko/articles/16266773-claude가-ai-생성-콘텐츠를-표시하는-방법
/ AI 전문 기자·칼럼니스트 최은경
노바토포스 ‘AI 뉴스’ 코너는 자료 조사·정리 과정에서 디지털 자료나 생성형 AI를 활용 합니다. 모든 기사는 노바토포스 편집자가 출처와 사실관계를 확인하고, 필요한 수정과 편집을 거쳐 최종 게재합니다.