AGI Hunt· ResearchCrafty1804·· 10 小时前AI 评分58
OpenAI 为合规加文本水印,Reddit 热议质量代价
AI 导读
OpenAI 宣布开始对模型输出的文本和图像添加水印,以遵守欧盟 AI 法案关于生成内容标识的要求,Anthropic 此前已在全球范围实施。文本水印的实现方式是在生成文本中植入统计信号,即采样时不总是选择最优的下一个 Token。Reddit 网友围绕这种 KLD 累积效应是否会损害模型输出质量展开热议,讨论合规要求与生成质量之间的权衡。
来源:AGI Hunt · agihunt.info