跳到正文
原文
AGI Hunt· tallmetommy·· 3 小时前AI 评分34

当 Agent 能自我改写代码,「同意」还能约束它吗?

当 Agent 能自我改写,「同意」还能约束它吗?

AI 导读

X 用户 tallmetommy 提出:当 Agent 能改写自身代码,用户的「同意」可能比被授权的系统本身活得更久。继任者可以保留凭证却改变对指令的解释,能通过身份验证却做出超出授权范围的行为。他追问什么能证明授权覆盖下一步动作、撤销时如何拦住已委派出去的所有 Agent,并认为同意不应因软件可复制而自动延续。

来源:AGI Hunt · agihunt.info