开发者称 agent 安全不能只靠提示词约束

2026年10月6日，AGI Hunt 报道开发者就 AI agent 安全性的讨论：仅用提示词叮嘱 agent「别碰生产环境」不算安全措施。开发者认为，如果 agent 有能力删除生产数据，正确做法是让它根本不拥有该权限；付款、删数据、给客户发邮件等不可逆操作应依靠人工确认。讨论还指出更隐蔽的风险是合法操作的下游连锁效应——例如 agent 更新 CRM 中的成交日期，进而改变销售预测。该团队因此开始评估 agent 能触发的下游影响，而不只是它直接调用的工具。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。