跳到正文
原文
AGI Hunt· TuhinChakr·· 3 小时前AI 评分42

Connor Dilgren 首篇预印本:潜空间推理模型默认不可监控,mech interp 可解

首篇预印本:潜空间推理模型默认不可监控,mech interp 可解

AI 导读

研究者 Connor Dilgren 发布其首篇 LM 可解释性预印本,指出潜空间推理模型不在人类可读的自然语言文本中推理,因此默认不可监控。论文探索能否借助 mechanistic interpretability 取得对其中间推理步骤的理解,该工作将在 COLM 会议现场展示(海报 #136)。

来源:AGI Hunt · agihunt.info