新上线昨天0 投票
OpenAI 将在欧盟默认给 ChatGPT 输出加水印，但可靠性存疑
OpenAI 最近宣布，将在欧盟地区默认对 ChatGPT 生成的内容添加水印，以符合当地监管要求。这一举措仅限欧盟，其他地区用户暂时不受影响。水印技术旨在标识 AI 生成内容，但与其他类似方案一样，其可靠性并不高，且容易被规避。
为什么只在欧盟？
欧盟近年来在 AI 监管上走在前列，《人工智能法案》 等法规对 AI 生成内容的透明性提出了明确要求。OpenAI 此举显然是为了合规，避免在欧盟面临处罚。相比之下，美国等地尚未出台类似的强制性规定，因此 OpenAI 选择只在欧盟实施默认水印。
水印是什么？怎么工作？
水印通常是在 AI 生成的文本中嵌入不可见的模式，比如特定的词序、标点习惯或统计特征，以便检测工具识别。OpenAI 并未透露具体技术细节，但强调水印会默认开启，用户无法关闭。
然而，水印的可靠性一直是个问题。研究显示，通过改写、翻译或插入少量字符，水印很容易被破坏。OpenAI 也承认，水印并非万无一失，只能作为辅助手段。
影响与争议
对于欧盟用户，水印可能影响内容的使用体验，尤其是需要原创性的场景。但 OpenAI 表示，水印不会影响输出质量。批评者则认为，水印可能给用户带来虚假的安全感，因为绕过它并不困难。
此外，水印仅限欧盟，可能引发其他地区用户的不满，认为 OpenAI 在隐私和透明度上采取双重标准。不过，OpenAI 强调这是为了遵守当地法律，未来若其他地区出台类似法规，也可能跟进。
行业背景
AI 生成内容的检测和标识已成为行业热点。谷歌、Meta 等公司也在探索水印技术，但同样面临可靠性挑战。欧盟的严格监管可能推动更多公司采取行动，但技术本身仍需进一步完善。
目前，OpenAI 尚未公布水印的具体上线时间和技术细节。我们将持续关注。
