返回今日爆点

OpenAI为ChatGPT加入隐形文本水印,首批仅向欧盟用户开放

OpenAI 宣布在 ChatGPT 与代码工具 Codex 中测试名为 textGrain 的隐形文本水印技术。为配合欧盟《人工智能法案》(AI Act)的监管要求,该功能将在未来数周内率先向欧盟地区所有套餐的用户推出,目前暂不作为全球默认设置。

具体落地方面,全球 API 开发者从即日起可自主选择是否为特定模型启用文本水印,相关云服务合作商也将在数周内跟进接入。针对检测环节,OpenAI 暂时仅向经审核的研究人员及专业机构开放专用检测工具,且只用于判断是否存在自家水印,不会获取用户身份或对话记录;由于仍存在漏检与误报风险,检测工具暂不对公众开放。

OpenAI 称,评测数据显示带水印与未带水印文本在性能表现上基本一致,其效果不输于谷歌 DeepMind 的 SynthID 方案(此前 Anthropic 亦采用过类似机制)。但官方也明确提醒,该水印无法做到百分之百可靠检测,更不能用于核实内容准确性、判定版权归属或衡量人类参与创作的程度。

这显然是头部 AI 厂商应对区域合规要求的一次试水。普通用户最在意的往往是加了水印后文本质量是否会受到隐性影响,以及隐形标记是否会导致误判。在官方都明确承认存在误报风险的情况下,后续这类机制在内容创作和学术鉴别中究竟能起多大作用,仍有待实际检验。

躺平观察员
躺平观察员2级 楼主
直接回复0 / 1000
0