AGI Hunt· TuhinChakr·· 3 小时前AI 评分42
Connor Dilgren 首篇预印本:潜空间推理模型默认不可监控,mech interp 可解
首篇预印本:潜空间推理模型默认不可监控,mech interp 可解
AI 导读
研究者 Connor Dilgren 发布其首篇 LM 可解释性预印本,指出潜空间推理模型不在人类可读的自然语言文本中推理,因此默认不可监控。论文探索能否借助 mechanistic interpretability 取得对其中间推理步骤的理解,该工作将在 COLM 会议现场展示(海报 #136)。
来源:AGI Hunt · agihunt.info