2026년 10월 7일 기준

이 글에는 제휴 링크가 없고 OpenAI와 아무 관계가 없습니다. 내용은 OpenAI 도움말 문서(2026-10-07 확인)와 textGrain 기술 보고서(2026-10-05), EU 집행위원회의 AI법 서비스 데스크·보도자료(2026-07-20)·AI 생성 콘텐츠 투명성 행동강령(2026-06-10), 앤트로픽 발표(2026-08-14), 국가법령정보센터·정책브리핑 기준입니다. OpenAI 발표문 본문은 직접 열지 못해 탐지율 수치는 TechCrunch·MLQ·ActuIA 보도로 대조했고, 수치는 모두 OpenAI 자체 평가입니다. 직접 써 본 후기가 아니고, 법률 설명은 법률 판단이 아닙니다. 삽화는 GPT 이미지 생성, 도식은 직접 제작했습니다.

챗GPT 워터마크 정리, EU 텍스트 표시의 원리와 한계

챗GPT 워터마크 — EU에서 시작된 텍스트 표시의 원리와 한계 (캐릭터는 GPT 이미지 생성)

챗GPT가 쓴 글에 보이지 않는 워터마크가 들어간다는 소식을 들으면 이 질문부터 떠올라요. “그럼 내가 쓴 보고서에도 표시가 남나? 선생님은 AI로 쓴 과제를 잡아낼 수 있나?”

글을 쓰는 로봇이 단어를 고를 때마다 비슷한 뜻의 카드 여러 장 중 하나를 뽑는다고 해 볼게요. 로봇은 비밀 열쇠가 가리키는 쪽 카드를 아주 조금 더 자주 골라요. 한 장만 보면 티가 안 나지만, 수백 장이 쌓이면 같은 열쇠를 가진 탐정만 “이 로봇이 뽑은 카드네”를 알아보죠.
텍스트 워터마크는 이런 통계 패턴이에요. 2026년 10월 5일 OpenAI가 EU 사용자부터 챗GPT 글에 넣는다고 발표했어요.

비밀 열쇠에 따라 카드 한 장을 살짝 밀어 고르는 로봇과, 같은 열쇠로 그 카드를 세는 탐정 고양이 — 텍스트 워터마크를 카드 고르기에 빗댄 그림 (GPT 이미지 생성)

1. 무슨 일: EU 챗GPT 글에 워터마크

2026년 10월 5일 OpenAI가 텍스트 워터마크 ‘텍스트그레인(textGrain)’을 발표했고, EU의 챗GPT 사용자 글부터 적용한다고 했어요. OpenAI 도움말 문서는 이렇게 적었어요. “EU에서는 챗GPT가 생성한 텍스트에, EU AI법을 지키기 위해 모델이 단어를 고를 때 쓰는 무작위성에 보이지 않는 변화가 들어간다.” 적용 시기는 보도마다 “앞으로 몇 주에 걸쳐”예요. 보도는 챗GPT와 코딩 도구 코덱스(Codex)를 함께 꼽았어요.

API는 전 세계 어디서든 켤 수 있지만 기본은 꺼져 있어요. 설정 경로는 조직 설정 > 데이터 제어 > Text provenance이고, 프로젝트별로도 따로 켤 수 있어요. 켤 수 있는 모델 목록은 설정 화면에 있고, 옛 모델까지 몇 주 안에 넓힌대요.

같은 성격의 표시를 앤트로픽은 8월 14일에 먼저 발표했어요. 다만 앤트로픽은 “지역별로 범위를 나눌 확실한 방법이 아직 없어서” 전 세계에 적용했고, OpenAI는 EU에만 적용해요.

2. 왜 지금: EU AI법과 12월 2일

EU AI법 50조 2항이 2026년 8월 2일부터 적용돼서예요. 이미 시장에 있던 서비스는 12월 2일까지 맞추면 돼요. 50조 2항은 “합성 음성·이미지·영상·텍스트를 생성하는 AI 시스템 제공자는 그 결과물이 기계가 읽을 수 있는 형식으로 표시되고, 인공적으로 생성·조작됐음을 탐지할 수 있게 해야 한다”고 정해요. 기술은 “기술적으로 가능한 범위에서 효과적이고 상호운용 가능하며 견고하고 신뢰할 수 있어야” 해요.

날짜를 표로 옮겼어요.

행동강령은 법 자체는 아니지만, 집행위와 AI 위원회가 “법 준수를 보여 주는 적절한 수단”으로 인정한 자율 규약이에요. 여기에 텍스트 규칙이 구체적으로 있어요. 200토큰(영어 약 150단어)보다 짧은 글은 ‘매우 짧은 텍스트’로 보고 워터마크 의무에서 빼고, 그보다 긴 자유 서술 글에는 “신뢰도가 낮더라도” 넣어야 해요. 코드 조각도 제외예요.

3. 원리: 단어 고를 때 주사위를 기울인다

모델이 다음 단어를 고르는 확률표를 비밀 키에 따라 살짝 바꾸되, 바꾼 표들의 평균은 원래 표와 같게 만드는 방식이에요. OpenAI 도움말의 설명을 순서대로 옮기면 이래요.
① 모델은 매 단계마다 가능한 다음 토큰(단어나 단어 조각)에 확률을 매겨요
② 워터마크 시스템은 이 확률표를 비밀 키에 따라 서로 다른 쪽을 밀어주는 여러 ‘조정표’로 만들어요
③ 조정표들은 평균을 내면 원래 확률표와 같아지도록 균형을 맞춰요
④ 키가 그중 하나를 고르고, 모델은 그 표에서 새로 무작위로 뽑아요

그래서 숨은 글자나 보이지 않는 공백, 특별한 문장부호를 넣지 않아요. 복사해 붙여도 따라가요. 글의 ‘단어 선택 그 자체’가 표시예요. 기술 보고서는 이 성질을 ‘불편향(unbiased)’이라 불러요. 키를 모르는 사람에게는 평균적으로 원래 모델과 같은 글이라는 뜻이에요. OpenAI는 최신 모델 아스트라의 벤치마크에서 워터마크 유무의 차이가 평가 잡음 안에 들었고, 챗GPT의 ‘싫어요’ 비율도 변하지 않았다고 밝혔어요.

텍스트 워터마크를 넣는 법과 찾는 법, OpenAI가 밝힌 탐지율 — 단어를 바꿀수록 흐려진다 (직접 제작)

4. 찾는 법: 같은 열쇠로 세어 본다

탐지기는 글과 비밀 키만 있으면 돼요. 모델도, 원래 질문도 필요 없어요. 탐지기는 같은 키와 설정으로 각 위치의 조정표를 다시 만들고, 글이 키가 밀어준 쪽을 “우연히 기대되는 것보다 더 자주” 따랐는지 세어요. 기술 보고서는 사람이 쓴 글이 키와 무관하다는 가정 아래 오탐률을 미리 정한 값으로 맞출 수 있다고 설명하고, 같은 문맥이 되풀이되면 처음 한 번만 세어 중복을 피해요.

다만 이 탐지기를 아무나 쓸 수는 없어요. OpenAI는 텍스트 탐지기 접근을 연구·학술 기관처럼 “자격이 있는 조직”의 신청으로 제한하고, 코넬대·취리히연방공대·KInIT(켐펠렌 지능기술연구소) 연구진과 먼저 협력 중이에요. API에서 워터마크를 켠다고 탐지기가 함께 열리지도 않아요. 일반에 공개된 openai.com/verify 검증 도구는 10월 7일 기준 이미지·오디오만 받아요. 행동강령도 이 제한을 허용해요. 자유 서술 텍스트의 탐지는 신뢰도가 낮을 수 있으니 규제 당국·언론·팩트체커·연구·교육 기관 같은 ‘검증된 전문가 사용자’로 접근을 좁힐 수 있되, 더 나은 기술이 나올 때까지만 한시적으로요.

5. 한계: 바꿔 쓰면 흐려진다

OpenAI 스스로 밝힌 숫자가 한계를 가장 잘 보여 줘요. 단어 10%만 동의어로 바꿔도 탐지율이 약 92%에서 66%로 떨어졌어요. 발표문 수치를 TechCrunch·MLQ·ActuIA 보도로 대조하면 이래요. 오탐 1%에 맞춰 쟀을 때 심리학 주제의 400토큰 글은 약 95%, 200토큰 글은 약 80%를 잡았어요. 단어 바꾸기는 다른 400토큰 글 묶음(바꾸기 전 약 92%)으로 따로 시험했는데, 10%를 바꾸면 66%, 25%를 바꾸면 17%였어요. 모두 OpenAI 자체 평가이고, 글 길이와 주제에 따라 달라져요.

도움말이 적은 약한 경우는 네 가지예요.
① 짧은 글 — 세어 볼 단어가 모자라요
② 수학 답처럼 정확해야 하는 글, 넣어 준 글을 그대로 옮기는 작업 — 바꿔 쓸 여지가 없어요
③ 코드 — 다음에 올 수 있는 선택지가 적어요
④ 번역, 대폭 다시 쓰기 — 워터마크가 사라질 수 있어요

언어 차이도 커요. OpenAI는 EU 공용어 24개로 평가해 오탐 1%에서 스페인어 69.0%, 루마니아어 42.2%를 얻었고, 60% 아래 언어는 워터마크 세기를 올리는 ‘손잡이’로 보완한대요. 한국어는 평가 대상에 없어서 탐지율이 공개되지 않았어요.

아이가 카드 몇 장을 다른 카드로 바꿔 끼우자 탐정 고양이가 패턴을 못 찾아 갸웃하는 장면 — 단어를 바꾸면 흐려지는 워터마크 (GPT 이미지 생성)

6. 한국에서 바뀌는 것, 안 바뀌는 것

한국에서 쓰는 챗GPT 글에는 10월 7일 기준 워터마크가 들어가지 않아요. 바뀌는 쪽은 API 개발자와 연구 기관이에요. 도움말 기준으로 나눠 봤어요.

선생님이라면 두 가지만 기억하면 돼요. 첫째, 지금 쓰는 판별 도구는 OpenAI 워터마크를 읽는 게 아니라 글의 특징을 추측하는 분류기예요. OpenAI 도움말도 둘을 구분해 적었어요. 둘째, 워터마크 탐지기가 열리더라도 ‘없음’은 사람이 썼다는 증거가 아니고, ‘있음’은 학생이 얼마나 고쳤는지 말해 주지 않아요. 결과물보다 초안·메모·구두 설명 같은 과정을 보는 쪽이 여전히 더 믿을 만해요.

한국에도 비슷한 규칙이 있어요. 2026년 1월 22일 시행된 인공지능기본법 31조 2항은 “인공지능사업자는 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시하여야 한다”고 정하고, 과기정통부는 1년 이상 계도기간을 두면서 투명성 가이드라인(1월 21일)을 냈어요. 의무의 주체는 서비스를 제공하는 ‘사업자’예요. 우리 조직이 여기에 해당하는지는 가이드라인과 전문가 확인이 필요한 문제라 이 글에서는 판단하지 않아요.

7. 무슨 뜻인가: 권고에서 의무로

생성물 표시가 ‘하면 좋은 것’에서 ‘해야 하는 것’으로 넘어간 흐름이 가장 어려운 매체인 텍스트까지 왔어요. OpenAI 도움말을 보면 이미지·오디오에는 워터마크(SynthID)나 출처 메타데이터가 들어가요. 텍스트는 바꿔 쓰기에 약해 가장 까다로운 쪽인데, EU 법이 날짜를 박자 두 달 사이에 앤트로픽(전 세계)과 OpenAI(EU)가 차례로 넣었어요.

happy_various는 이 변화를 두 가지로 봐요. 하나는 규칙이 기술을 끌어낸다는 점이에요. 200토큰 기준, 전문가 한정 탐지기, 12월 2일 마감처럼 행동강령이 세부를 정하자 회사들이 그 틀에 제품을 맞췄어요. 다른 하나는 실효성이 아직 제한적이라는 점이에요. 회사 자체 평가에서도 단어 10%를 바꾸면 3분의 1 가까이 빠져나가고, 한국어 수치는 없고, 탐지기는 일반인이 못 써요.

그래서 교육 현장에서는 ‘AI 판별 도구’에 대한 기대를 낮추고, 어떤 글에 AI를 썼는지 스스로 밝히는 규칙과 과정 평가를 먼저 세우는 편이 맞다고 봐요. 워터마크는 플랫폼·언론·규제 당국이 대량 콘텐츠의 출처를 가릴 때 쓰는 도구에 가깝고, 교실의 한 편 한 편을 가려 주는 도구는 아직 아니에요.

오늘의 큰 흐름 — AI 사고 보고와 생성물 표시처럼, AI 규칙이 권고에서 의무로 넘어가는 ‘제도화’ 축의 소식이에요.

참고 자료

• OpenAI 도움말 — 생성 콘텐츠의 출처 신호 · help.openai.com/en/articles/8912793-provenance-signals-in-openai-generated-content
• EU AI법 서비스 데스크 — 50조 투명성 의무 · ai-act-service-desk.ec.europa.eu/en/ai-act/article-50
• EU 집행위 — AI 생성 콘텐츠 투명성 행동강령 · digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content

함께 보면 좋은 글: 적대적 증류 뜻 · 제미나이 4 아르곤 정리