跳到正文
原文
AGI Hunt· sujingshen·· 1 天前AI 评分52

Agent 走向 always-on 后,谁来当深夜的刹车?

AI 导读

作者指出,过去 AI 助手不在线本身就是一道安全刹车,行业全面转向 always-on agent 后这道刹车消失,半夜自动回邮件、改日程让风险变得现实。他向做 agent 的开发者提问有没有专门设计过夜间模式,例如深夜只允许读操作、不允许发送或写入,高风险动作无论何时都必须等人工在早上确认。他认为这是 agent 安全设计中被忽视但日益现实的问题,权限控制需要引入时间维度。

来源:AGI Hunt · agihunt.info