精选今天0 投票
OpenAI 详解欧盟文本溯源规则：水印技术 textGrain 分阶段落地
欧盟 AI 法案下的文本溯源要求
欧盟《人工智能法案》要求生成式 AI 提供商以机器可读的方式标识生成的文本。OpenAI 近日公布了其应对策略，核心是名为 textGrain 的文本水印技术。该技术通过在模型的词汇选择中嵌入不可见的统计信号，检测器可据此判断一段文字是否包含 OpenAI 水印。
OpenAI 坦承，文本水印与检测仍属早期技术，存在显著局限，业界对其收益与负责任使用方式的看法也在演变中。因此，公司采取分阶段推进的方式，并强调对水印能力边界保持透明。
分阶段实施路径
- API 客户可选加入：即日起，全球 API 客户可对部分模型选择启用文本水印，但默认保持关闭。
- 欧盟 ChatGPT 与 Codex 输出：未来数周内，OpenAI 将为欧盟地区的 ChatGPT 和 Codex 文本输出添加不可见水印。
- 检测器限量开放：水印检测器开放申请，初期仅限经批准的研究人员和专家组织，用于评估和改进技术。
值得注意的是，上述措施仅针对文本溯源。音频和图像的验证工具，包括 openai.com/verify 网页工具和 Content Provenance API，将继续向公众开放。
textGrain 的技术表现与开源计划
据 OpenAI 介绍，在内部评估中，textGrain 的表现匹配或超越了其他测试方法，包括谷歌的 SynthID for text。不过，公司也谨慎指出，理想条件下的强劲表现并不等同于实际部署中的可靠性。
OpenAI 计划将 textGrain 开源，以便其他开发者在此基础上继续构建。相关技术报告将在未来数周内更新更多细节。
透明与局限并存的务实路线
OpenAI 此举反映了生成式 AI 内容溯源领域的普遍挑战：技术尚不成熟，但监管要求已经到来。通过分阶段、限量开放和强调透明，OpenAI 试图在合规与负责任创新之间取得平衡。对于开发者和研究者而言，水印检测器的申请通道值得关注；对于普通用户，欧盟地区的 ChatGPT 输出将率先带上不可见标记，但水印本身并不能告诉人们文本的全部来源或编辑历史。