跳到正文
原文
AGI Hunt· davidmanheim·· 3 小时前AI 评分40

安全研究者 David Manheim 评 Google CoT 监控:监控不等于对齐

安全研究者评Google CoT监控:监控不等于对齐

AI 导读

安全研究者 David Manheim 认为 Google 的思维链(CoT)监控不等于对齐,其声明未提及被拦截事件的倾向性或频率,且「未来时态」措辞令人担忧。他同时肯定 Google 至少没有在 CoT 上做训练,并提醒厂商不要再犯对 CoT 做训练的错误。

来源:AGI Hunt · agihunt.info