OpenAI 将对模型输出文本和图像添加水印以符合欧盟法规,会影响输出质量吗?
OpenAI 宣布将对模型输出的文本和图像添加水印,以符合欧盟识别 AI 生成内容的法规;Anthropic 此前也宣布了同样做法且面向全球。水印通过在生成文本中强制“统计信号”实现,即不总选最合适的下一个 token 而选足够接近的替代,引入 KLD>0 的分布偏移,在多轮任务中可能因累积效应导致质量下降。
新闻、仓库与研究,按时间排列。
OpenAI 宣布将对模型输出的文本和图像添加水印,以符合欧盟识别 AI 生成内容的法规;Anthropic 此前也宣布了同样做法且面向全球。水印通过在生成文本中强制“统计信号”实现,即不总选最合适的下一个 token 而选足够接近的替代,引入 KLD>0 的分布偏移,在多轮任务中可能因累积效应导致质量下降。