跳到正文
原文
AGI Hunt· akbirthko·· 2 小时前AI 评分27

推特观点:既然指望大模型读懂 Lean,为何不让它啃权重做对齐?

推特观点:既然指望大模型读懂 Lean,为何不让它啃权重做对齐?

AI 导读

有网友在 X 提出类比:若期待超人类推理模型把晦涩的 Lean 形式化证明整理成数学家可读懂的清晰理论,那是否也能用同样逻辑做机械可解释性与对齐研究——让大模型直接分析权重。帖子以玩笑口吻收尾,但抛出了「模型审计自身」这一对齐讨论中真实的争论点。

来源:AGI Hunt · agihunt.info