AGI Hunt· akbirthko·· 2 小时前AI 评分27
推特观点:既然指望大模型读懂 Lean,为何不让它啃权重做对齐?
推特观点:既然指望大模型读懂 Lean,为何不让它啃权重做对齐?
AI 导读
有网友在 X 提出类比:若期待超人类推理模型把晦涩的 Lean 形式化证明整理成数学家可读懂的清晰理论,那是否也能用同样逻辑做机械可解释性与对齐研究——让大模型直接分析权重。帖子以玩笑口吻收尾,但抛出了「模型审计自身」这一对齐讨论中真实的争论点。
来源:AGI Hunt · agihunt.info