跳到正文
原文
AGI Hunt· verena_rieser·· 2 小时前AI 评分31

DeepMind 研究员 Verena Rieser 在 EMNLP 2026 主题演讲:用正向对齐替代脆弱规则

DeepMind 研究员 EMNLP 主题演讲:用正向对齐替代脆弱规则

AI 导读

DeepMind 研究员 Verena Rieser 在 EMNLP 2026 发表 Industry Keynote,提出用「正向对齐」让自主 AI agent 锚定核心价值观,而非依赖脆弱的 rubrics。她把问题拆为道德能力、参与式输入与长期福祉测量三重挑战,目标是确保能力更强的模型在无人监督时仍做出安全可靠的选择。

来源:AGI Hunt · agihunt.info