跳到正文
原文
AGI Hunt· dhadfieldmenell·· 3 小时前AI 评分35

圈内涵争议:abliterated 模型并非「还原」,只是过度抑制后的「脑损伤」

圈内涵争议:abliterated 模型并非「还原」,只是过度抑制后的脑损伤

AI 导读

@LinusMixson 与 @lumpenspace 等业内人士围绕 abliterated 模型及 Pliny 的「还原 RLHF 前模型」说法提出反驳:这类去安全对齐模型并非恢复原模型能力,实际效果只是「脑损伤」。他们进一步解释,这本质上是给原模型过度施加了一个「犯罪抑制向量」,所谓「还原 RLHF 之前的模型」纯属无稽。

来源:AGI Hunt · agihunt.info