AGI Hunt· burny_tech·· 1 小时前AI 评分25
开发者实操对比:单神经元 steering 效果远逊于 contrastive-pair 控制向量
实操对比:单神经元 steering 效果远逊于对比对控制向量
AI 导读
开发者 lumpenspace 分享实操对比结论:单神经元 steering 与 SAE 一样,在实际应用中的连贯性、一致性维度效果远不如 contrastive-pair 控制向量。这是关于模型行为可控性方法的一手对比结论,对做模型行为调控的人有参考价值。
来源:AGI Hunt · agihunt.info