跳到正文
原文
AGI Hunt· Miles_Brundage·· 3 小时前AI 评分36

Miles Brundage:惩罚模型的思维链,你这是在惩罚「思想罪」

惩罚模型的思维链?Miles Brundage:你这是在惩罚「思想罪」

AI 导读

前 OpenAI 政策高管 Miles Brundage 在 X 上讽刺对语言模型思维链(CoT)进行惩罚与审查的做法,借用《1984》的「思想罪」一词,暗指这类监控模型内部推理过程的行为值得警惕。该表态呼应了围绕 CoT 监控的伦理争议。

来源:AGI Hunt · agihunt.info