AGI Hunt· mariotelfig·· 6 小时前AI 评分38
Bengio 讨论 agent 安全,网友指关键缺口是 agent 的责任主体
Bengio 讨论 agent 安全,网友指关键缺口是代理的责任主体
AI 导读
在 Yoshua Bengio 相关的 agent 安全框架讨论中,网友 vnosti 提出仅从网络安全/沙箱角度框定 agent 安全过于狭窄。他主张每个 agent 都应像古代印章或铭牌一样携带「持有者」凭证,标明代表谁、受谁指令行事,由入口方据此放行。其核心论断是能力(capability)决定损害的规模,而「无主」决定是否有人阻止损害或为之担责。
来源:AGI Hunt · agihunt.info