AGI Hunt· Miles_Brundage·· 3 小时前AI 评分36
Miles Brundage:惩罚模型的思维链,你这是在惩罚「思想罪」
惩罚模型的思维链?Miles Brundage:你这是在惩罚「思想罪」
AI 导读
前 OpenAI 政策高管 Miles Brundage 在 X 上讽刺对语言模型思维链(CoT)进行惩罚与审查的做法,借用《1984》的「思想罪」一词,暗指这类监控模型内部推理过程的行为值得警惕。该表态呼应了围绕 CoT 监控的伦理争议。
来源:AGI Hunt · agihunt.info