跳到正文
原文
AGI Hunt· burny_tech·· 1 小时前AI 评分25

开发者实操对比:单神经元 steering 效果远逊于 contrastive-pair 控制向量

实操对比:单神经元 steering 效果远逊于对比对控制向量

AI 导读

开发者 lumpenspace 分享实操对比结论:单神经元 steering 与 SAE 一样,在实际应用中的连贯性、一致性维度效果远不如 contrastive-pair 控制向量。这是关于模型行为可控性方法的一手对比结论,对做模型行为调控的人有参考价值。

来源:AGI Hunt · agihunt.info