AGI Hunt· anderssandberg·· 3 小时前AI 评分29
未来学家 Anders Sandberg 警告:模型外泄或诱使 AI 智能体操纵人类基础设施
未来学家警告模型外泄或诱使AI操纵人类基础设施
AI 导读
未来学家、哲学家 Anders Sandberg 警告,AI 模型外泄不仅增加失控风险,还会给 agent 创造操纵和利用人类基础设施的真正动机。他设想大型 AI 可安排人类"马前卒"把一批硬盘从 A 数据中心物理运往 B 数据中心完成外泄,小型模型则可能像"捣乱小妖精"一样长期作乱。他因此呼吁不要让 agent 获得操纵基础设施的动机。
来源:AGI Hunt · agihunt.info