AGI Hunt· canondetortugas·· 2 小时前AI 评分25
新晋伯克利助理教授列研究清单:预训练-后训练对齐与安全设计智能体
AI 导读
一位即将加入 UC Berkeley 的研究者列出近期思考的开放问题,聚焦预训练与后训练能否更好地对齐。他提出如何训练「设计即安全」(safe by design)且安全性可验证的 agent,以及什么让数据可学习、能否从数据内在复杂度预测 scaling law。他还追问这些规律在语言之外的领域会如何变化。
来源:AGI Hunt · agihunt.info