AI 텍스트 워터마크는 모델이 글을 만드는 과정에서 단어 선택에 통계적 신호를 남겨, 나중에 해당 방식으로 생성됐을 가능성을 확인하는 기술입니다. 탐지 결과는 확률적 단서이지 작성자나 진실성을 확정하는 증명서가 아닙니다. EU AI법의 기계 판독 표시와 독자에게 보이는 공개 표시도 책임 주체와 적용 조건이 다릅니다.
텍스트에 보이지 않는 표시를 어떻게 남길까?
이미지 워터마크는 픽셀에 신호를 넣을 수 있지만, 텍스트에는 수정할 픽셀이 없습니다. Google의 SynthID Text 기술 안내는 모델이 다음 토큰을 생성하는 과정에 특정 설정을 적용해 나중에 확인할 수 있는 신호를 남기는 방식을 설명합니다. 토큰은 단어 전체 또는 단어의 일부처럼 모델이 처리하는 텍스트 단위입니다.
쉽게 말해 자연스러운 표현 후보가 여럿 있을 때 선택 과정에 일정한 패턴을 반영하고, 탐지기는 충분한 텍스트에서 그 패턴을 통계적으로 살핍니다. 문장에 보이지 않는 특수문자를 반드시 삽입한다거나, 글의 모든 단어에 작성자의 고유번호를 붙인다는 뜻은 아닙니다. 실제 구현은 방식과 설정에 따라 달라집니다.
Anthropic의 설명에 따르면 Claude의 텍스트 워터마크는 SynthID-Text 계열을 사용하며, 해당 키로 확인할 수 있는 것은 Claude가 텍스트 작성에 관여했을 가능성입니다. 회사는 이 방식이 개별 사용자나 대화를 식별하지 않는다고 설명합니다. 이는 해당 제공자가 설명하는 방식이며, 모든 AI 워터마크의 개인정보 처리 방식을 대표하지는 않습니다.
워터마크와 일반 AI 판별기는 무엇이 다를까?
| 구분 | 무엇을 확인하나 | 주의할 점 |
|---|---|---|
| 생성 과정의 워터마크 | 특정 방식과 키에 해당하는 통계적 신호 | 신호가 없다고 사람의 글이라고 확정할 수 없음 |
| 사후 AI 판별기 | 문체나 학습된 특징을 바탕으로 AI 작성 가능성 추정 | 특정 제공자의 신호를 직접 확인한다는 뜻이 아님 |
| 눈에 보이는 표시 | 독자에게 AI 사용 또는 생성 사실을 알림 | 어떤 상황에서 표시가 필요한지는 별도 조건에 따름 |
탐지기는 오탐과 미탐이 가능합니다. Google은 검출 결과를 표시됨, 표시되지 않음, 불확실함으로 나눌 수 있고 임계값에 따라 오류의 균형이 달라진다고 설명합니다. 따라서 한 번의 판정만으로 학생의 부정행위나 저자의 정체를 확정해서는 안 됩니다. 작성 과정과 초안, 출처, 당사자의 설명 등 다른 자료도 함께 살펴야 합니다.
짧은 글이나 수정된 글에서도 찾을 수 있나?
짧은 문장은 관찰할 선택이 적어 판별이 어려울 수 있습니다. 정답 표현이 거의 정해진 사실 문장이나 사람의 원문에서 일부 문법만 고친 글도 신호가 약할 수 있습니다. Anthropic은 이런 한계를 직접 설명합니다.
Google은 일부 단어 수정이나 가벼운 바꿔쓰기에 신호가 남을 수 있지만, 대폭 수정하거나 다른 언어로 번역하면 탐지 신뢰도가 크게 낮아질 수 있다고 밝힙니다. 반대로 편집이 언제나 신호를 없앤다는 보장도 없습니다. ‘워터마크가 검출되지 않음’은 AI를 쓰지 않았다는 뜻이 아닙니다.
EU AI법은 누구에게 무엇을 요구하나?
EU 집행위원회의 AI법 제50조 안내에 따르면, 적용 대상 생성형 AI 시스템 제공자에게는 합성 콘텐츠를 기계가 읽을 수 있는 형태로 표시하고 탐지 가능하게 할 의무가 있습니다. 일반적인 편집 보조 등에는 적용 범위와 예외가 있으며, 기술적 제약과 최신 기술 수준도 고려됩니다. 법이 특정 워터마크 제품 하나만 사용하라고 정한 것은 아닙니다.
이와 별도로 AI 시스템을 업무에 사용하는 자의 공개 표시 의무가 있습니다. 집행위원회는 공익적 사안에 대해 대중에게 정보를 제공할 목적으로 공개하는 AI 생성·조작 텍스트를 설명하면서, 실질적인 인간 검토나 편집 통제와 책임이 있는 경우의 예외를 안내합니다. 단순 맞춤법 검사만으로 그 요건을 충족한다고 볼 수 없다는 점도 설명합니다.
제50조는 2026년 8월 2일부터 적용되며, 집행위원회 안내에 따르면 그 전에 시장에 나온 시스템의 기계 판독 표시 의무에는 2026년 12월 2일까지 제한적인 유예가 있습니다. 적용 여부는 당사자의 역할, 콘텐츠와 사용 상황에 따라 다릅니다. 위 내용은 확인일 기준의 일반 설명이며 자신의 사업에 대한 법적 결론으로 대체해서는 안 됩니다.
블로그 작성자는 무엇을 확인하면 좋을까?
다음은 발행 과정을 관리하기 위한 편집 제안입니다.
- 사용한 AI 도구와 원자료, 직접 확인한 내용을 기록합니다.
- 사실 주장과 인용 링크가 원출처를 정확히 반영하는지 확인합니다.
- AI가 제안한 문장을 사람이 실제 내용까지 검토하고 필요한 부분을 수정합니다.
- 독자에게 공개할 AI 사용 안내와 적용 법규는 콘텐츠 종류와 운영 지역에 맞춰 판단합니다.
워터마크의 유무는 글이 유익하거나 정확하다는 의미가 아닙니다. AI 글쓰기 검토 방법을 함께 참고해 출처와 내용 자체를 점검하세요.
자주 묻는 질문
워터마크가 나오지 않으면 사람이 쓴 글인가요?
아닙니다. 다른 방식의 AI를 사용했거나 글이 짧고 편집이 많아 해당 신호를 찾지 못했을 수 있습니다.
워터마크가 있으면 누가 글을 요청했는지도 알 수 있나요?
Anthropic은 자사의 설명에서 Claude 텍스트 워터마크가 개별 사용자나 대화를 식별하지 않는다고 밝힙니다. 다른 서비스에는 별도의 정책이 적용될 수 있습니다.
EU AI법은 모든 블로그 글에 AI 사용 표시를 요구하나요?
일률적으로 그렇다고 말할 수 없습니다. 제공자의 기계 판독 표시와 사용자의 공개 표시는 구분되며, 글의 목적과 사람의 실질적 검토 등 적용 조건을 확인해야 합니다.
자료 확인일: 2026년 11월 7일.
다음 한 걸음
내 환경에서 막힌 부분은 실행 단계와 함께 질문해 주세요. 바꿔 만든 결과도 함께 나눌 수 있습니다.