AGI Hunt· Internal-Bug-8434·· 3 小时前AI 评分45
别再问 Agent 多聪明,先问它能碰什么:权限边界比模型升级更保命
AI 导读
开发者提出,评估 Agent 的关键不是多聪明,而是它能触达什么,并先画出影响半径:持有哪些凭证、能删什么、能花多少钱、陷入循环后多快造成破坏。只读密钥的 Agent 即使发疯损失也小;握有生产环境写权限和计费 token 的 Agent 失控则可能毁掉一整周。沙箱、最小权限 token 和硬性消费上限,对可靠性的贡献比再升级一次模型更大。
来源:AGI Hunt · agihunt.info