OpenAI在欧盟为ChatGPT文本添加隐形水印,全球API用户可选关闭
结论前置 / TL;DR
OpenAI将在欧盟地区对ChatGPT生成文本嵌入隐形水印,以符合《人工智能法案》要求;但与Anthropic不同,其全球API客户可自主选择是否启用该功能。测试显示水印检测率最高达95%,若替换四分之一词汇则降至17%。
欧盟强制+全球可选
OpenAI正为面向欧盟用户的ChatGPT服务部署隐形文本水印(textGrain),作为履行《人工智能法案》透明度义务的举措。该水印不可见、不影响阅读,但可供检测工具识别内容是否由AI生成。
API策略差异化
与Anthropic等厂商将水印设为API默认强制项不同,OpenAI允许所有地区API客户在调用时选择禁用水印功能。此举保留了企业客户的部署灵活性,但也引发关于全球一致性监管执行的讨论。
检测鲁棒性存局限
内部测试表明,在标准场景下水印检测准确率达95%;但当文本中25%的词汇被人工改写后,检测率骤降至17%,显示其抗编辑能力较弱。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(The Decoder) →