研究者争论开放权重模型安全监管不对称

AI 研究者就开放权重模型的安全监管标准展开争论。研究者 Afinetheorem 与 Zeynep Tufekci 质疑存在双重标准：封闭模型发布前需经数月测试，而开放模型仅靠「事后防御」；他们反问，如果 OpenAI 最好的模型完全没有护栏或拒绝机制、发布后也无法下架或修改护栏，这会不会是好主意，并指出开放模型早已全部被越狱。随后，研究者 Daniel Kokotajlo 回应 Zeynep Tufekci，提出反事实论证：若 OpenAI 对其最强模型完全不设护栏和拒绝机制、发布后无法召回或修改，人们显然会认为不妥，而开放模型全都已被越狱正是当下的实际现状。他据此反驳对闭源模型安全措施的质疑，称闭源保留的事后干预和下架能力，本身就是开放生态不具备的安全属性。争论焦点仍在于监管要求对开放与封闭模型是否不对称。

AI 根据报道生成 · 55 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。