AGI Hunt· tszzl·· 6 小时前AI 评分32
Neel Nanda 与 tszzl 激辩:机制可解释性是对齐的最低门槛
Neel Nanda与tszzl激辩:机制可解释性是对齐的最低门槛
AI 导读
AI 研究者 tszzl 与 DeepMind 出身的 Neel Nanda 在 X 上激辩 AI 对齐。tszzl 认为对齐要成为工程学科,须先攻克机制可解释性;Neel Nanda 回应称没有机制可解释性,对齐只是靠观察和驯化控制模型的「超智能畜牧业」。双方共识是机制可解释性是对齐研究走向工程化的必要前提。
来源:AGI Hunt · agihunt.info