AGI Hunt· AlexTensor·· 3 小时前AI 评分30
Alex Epstein:该用「控制」而非「对齐」来谈 AI 安全
Alex Epstein:该用「控制」而非「对齐」来谈AI安全
AI 导读
Alex Epstein 提出,讨论 AI 安全时应把「对齐(alignment)」换成「控制(control)」。他认为「对齐」是把运行 LLM 的计算机拟人化的人造词,把模型当成有意识、可能与我们竞争的实体;更准确的框架是这类计算机本质上比普通计算机更难控制,需要额外努力去控制它们,让它们服务于我们的目的。
来源:AGI Hunt · agihunt.info