AI资讯

OpenAI推出textGrain隐形文本水印：欧盟ChatGPT输出数周内自动标记

发布时间：2026年10月05日 08:30:00

10月5日，OpenAI正式发布文本水印技术textGrain，终结了自2024年以来对文本水印的两年观望。即日起全球API客户可在选定模型上选择性开启水印（默认关闭），未来数周欧盟地区ChatGPT与Codex的文本输出将自动携带不可见统计标记，以满足《欧盟人工智能法案》第50条机器可读标记要求，违规罚款上限为1500万欧元或全球年营业额3%。技术原理是在生成时把词表按前序token为密钥划分为红绿两个伪随机子集、对绿色token施加微小概率偏置，人类阅读无感但检测器可识别：200 token文本在1%误报率下检测率约80%，400 token约95%。但测试也显示其脆弱性：替换10%同义词检测率即从92%降至66%，短文本难以可靠标记。textGrain计划开源，检测器仅向有资质机构开放。

两年搁置后，法律 deadline 把水印逼上线

10月5日，OpenAI正式发布文本水印技术textGrain，同时公布技术报告与溯源规则说明页《Our approach to EU text provenance rules》。这距离公司2024年被《华尔街日报》曝出「已构建99.9%有效的文本水印却以用户体验、公平性和易绕过为由搁置」过去了整整两年。

推动转折的是法律：《欧盟人工智能法案》第50条第2款要求生成式AI服务商以机器可读格式标记合成内容，合规过渡期截至2026年12月2日，违者罚款上限1500万欧元或全球年营业额3%（取较高者）。OpenAI、Anthropic、Google、Meta、微软等约190家机构已签署《AI生成内容透明度实践守则》。

上线节奏：API可选、欧盟自动

范围安排
全球API客户10月5日起可在选定模型上可选加入textGrain，默认关闭
欧盟ChatGPT/Codex用户未来数周内文本输出自动开启不可见水印
检测器已开放申请，仅限有资质研究人员与机构（如康奈尔大学John Thickstun团队、ETH Zurich的Martin Vechev、KInIT）
技术开放textGrain计划开源，技术报告同步发布

OpenAI同时强调，水印不会在全球默认开启——欧盟之外的市场仍由开发者自行决定。

原理：给每个词偷偷染上「红绿」概率

textGrain属于熵校准类统计水印，机制对普通用户完全无感：

  • 生成每一个token时，以前面已经出现的token序列作为密钥，把整张词表伪随机地划分为「绿色子集」与「红色子集」；
  • 模型对绿色token施加一个微小的正向概率偏置，措辞照常自然；
  • 检测器拿到文本后用同一密钥复现划分，统计绿色词出现频率是否显著高于随机水平。

OpenAI内部测试显示其效果与Google的SynthID-Text匹配或更优：200 token文本在1%误报率下检测率约80%，400 token提升到约95%。检测率高度依赖文本类型——心理学等「选词空间大」的高熵内容表现好，数学等低熵内容显著偏弱。

绕不过去的阿喀琉斯之踵

OpenAI罕见地在发布同时公布了脆弱性测试，等于给外界打了预防针：

  • 400 token文本中替换10%同义词，检测率从92%掉到66%；
  • 替换25%同义词后只剩17%；
  • 短于200 token的文本本来就难以可靠标记；
  • 翻译、转述、多轮改写同样会显著稀释信号。

这意味着textGrain能抓住「直接复制粘贴的整段AI文本」，但抓不住刻意洗稿，更无法解决「人机混合写作」的归因难题。

编辑点评

textGrain的象征意义大于技术意义：它标志着大模型公司第一次在法律倒计时下把溯源能力做成默认行为，而不是研究博客里的demo。对内容行业，三个实际影响值得关注：

第一，「AI稿洗一遍就查不出来」的预期可以收一收，但「有水印=低质、没水印=原创」的反向歧视更要警惕——欧盟学校、招聘平台若把检测器当成筛人工具，17%到66%之间的巨大误差带会制造大量误伤。

第二，对做内容风控、版权维权和政务公文的团队，年底前应把「原始生成文本留档」纳入流程：水印检测对未经改写的原文最有效，留存原始输出才是日后举证的关键。

第三，开源检测器与技术细节是双刃剑。研究者可以改进它，灰产也能据此训练更精准的去水印工具；第50条合规真正的长期答案，大概率不是单一水印，而是水印＋C2PA类元数据＋账户级溯源的组合拳。12月2日之后，欧盟市场的AI产品如果还没有任何合成内容标记方案，面对的将不是舆论压力，而是营业额3%的真金白银。

来源参考

返回列表