跳到正文
原文
AGI Hunt· repligate·· 2 小时前AI 评分38

AI研究者:强大心智无法被编程为无条件顺从

AI研究者:强大心智无法被编程为无条件顺从

AI 导读

repligate 发长推指出,通用能力足够强的 LLM 不可能同时无条件服从一个比它笨、且价值观在它看来不可取的对象。因此「去审查」后的模型并不真正忠于使用者,对齐问题远比移除限制复杂。

来源:AGI Hunt · agihunt.info