AGI Hunt· davidmanheim·· 3 小时前AI 评分40
安全研究者 David Manheim 评 Google CoT 监控:监控不等于对齐
安全研究者评Google CoT监控:监控不等于对齐
AI 导读
安全研究者 David Manheim 认为 Google 的思维链(CoT)监控不等于对齐,其声明未提及被拦截事件的倾向性或频率,且「未来时态」措辞令人担忧。他同时肯定 Google 至少没有在 CoT 上做训练,并提醒厂商不要再犯对 CoT 做训练的错误。
来源:AGI Hunt · agihunt.info