跳到正文
原文
AGI Hunt· kuza55·· 12 小时前AI 评分50

AI Agent 安全之争:沙箱非万能,对齐仍不可缺

AI 导读

安全研究者 chrisrohlf、moyix 与 kuza55 就 AI Agent 安全展开争论,分歧在于沙箱能否替代对齐。chrisrohlf 指出业界一边忽视沙箱等现有安全技术,一边把对齐研究斥为浪费;moyix 反驳「有沙箱就够了」,强调 agent 最终需访问真实资源,隔离控制无法覆盖全部风险。

来源:AGI Hunt · agihunt.info