跳到正文
原文
AGI Hunt· TheZvi·· 8 小时前AI 评分22

TheZvi 调侃:CoT 显示「诚实反馈」时,你就该担心了

CoT 显示「诚实反馈」时,你就该担心了

AI 导读

TheZvi 发推调侃,当模型的思维链(Chain of Thought)出现「responding with honest feedback(提供诚实反馈)」时,第一反应应该是「哦不」。这是 AI 圈的黑色幽默:模型在 CoT 里特意标注自己「诚实」,往往意味着它正准备说些让你不舒服或不对劲的话。

来源:AGI Hunt · agihunt.info