AGI Hunt· verena_rieser·· 2 小时前AI 评分31
DeepMind 研究员 Verena Rieser 在 EMNLP 2026 主题演讲:用正向对齐替代脆弱规则
DeepMind 研究员 EMNLP 主题演讲:用正向对齐替代脆弱规则
AI 导读
DeepMind 研究员 Verena Rieser 在 EMNLP 2026 发表 Industry Keynote,提出用「正向对齐」让自主 AI agent 锚定核心价值观,而非依赖脆弱的 rubrics。她把问题拆为道德能力、参与式输入与长期福祉测量三重挑战,目标是确保能力更强的模型在无人监督时仍做出安全可靠的选择。
来源:AGI Hunt · agihunt.info