跳到正文
原文
AGI Hunt· Immediate-Court-4074·· 3 小时前AI 评分25

Reddit 网友引阿西莫夫呼吁:给 AI 智能体 agency 前必须嵌入不可妥协的价值观

Reddit 网友引 Asimov 呼吁:给 AI agency 前必须嵌入不可妥协的价值观

AI 导读

Reddit 网友引用 Sam Altman 本周「世界应接受这项技术为带来能力而发生的某些坏事」的表态,主张给 AI 智能体 agency 前必须把价值观嵌入核心,只给能力不嵌伦理是重大错误。其论文基于阿西莫夫约 80 年前的正电子大脑设想,提出一条更安全的 AI 路径;Altman 同时承认对齐尚未解决,这被视为「用价值观换进步」。

来源:AGI Hunt · agihunt.info