AGI Hunt· burny_tech·· 2 小时前AI 评分35
机制可解释性新论:LLM 是多声部系统,理解须重新定义
AI 导读
研究员 Pierre Beckmann 提出,机制可解释性研究显示 LLM 是「多声部(polyphonic)系统」,多个内部组件就同一问题并行工作、各贡献部分证据,而非由单一整体做决定。他主张用单一意识体的标准衡量 LLM 是错的,需要一种新的「理解」概念来回答这类系统能否被信任的问题,证据来自内部电路与特征分析。
来源:AGI Hunt · agihunt.info