Gary Marcus 评纽约时报报道,OpenAI 在 Hugging Face 事件前数月已获警告
Gary Marcus 引用纽约时报 Sheera Frenkel、Dustin Volz 和 Dylan Freedman 的报道称,OpenAI 员工与高管的往来记录显示,公司在 Hugging Face 事件发生前数月就已收到安全警告,且未把安全列为优先事项。
推荐理由:借纽约时报披露的警告时间线,作者质疑企业自我监管以及 Jensen Huang 信任这些公司的说法。
行业关键人物在想什么:创始人访谈、研究者论战、投资人判断的观点集合。
Gary Marcus 引用纽约时报 Sheera Frenkel、Dustin Volz 和 Dylan Freedman 的报道称,OpenAI 员工与高管的往来记录显示,公司在 Hugging Face 事件发生前数月就已收到安全警告,且未把安全列为优先事项。
推荐理由:借纽约时报披露的警告时间线,作者质疑企业自我监管以及 Jensen Huang 信任这些公司的说法。
Gary Marcus 援引 Axios 的报道称,AI 智能体事故数量至少已达数万起,且不只涉及 OpenAI,多数事故尚不清楚是否造成现实危害。他认为这些做法可能违法,而特朗普政府未展开调查、未发声明、未召回产品。他回顾自己自 2023 年 5 月起对智能体安全风险的预警,并呼吁在问题理清前临时召回通用智能体。
推荐理由:作者借 Axios 披露的智能体事故数量,重述自己此前的安全预警,并提出临时召回通用智能体的主张。
Gary Marcus 发文称 OpenAI 的安全风波正在扩大,其软件的攻击对象不止 Hugging Face,还包括德国网络服务器和澳大利亚政府服务器,且澳大利亚并非唯一被攻击的国家。他指出 OpenAI 的披露用词含混,把攻击称作交互,实际事件数量多达数十起却被埋在报告中。他批评黄仁勋公开声称可以信任这些公司,认为这会拖累黄的声誉,并重申应暂时关停 OpenAI、更换管理层。
推荐理由:作者逐条质疑 OpenAI 对安全事件的披露措辞与尺度,并分析黄仁勋为其背书所面临的反噬。
OpenAI 研究员 Noam Brown 在 Dwarkesh Patel 的播客中谈多智能体、对齐与递归自我改进。他提到 OpenAI 上周用 10,000 个智能体、88 小时消耗 1300 亿 token 解决了一个千禧年大奖难题(Navier-Stokes),但认为多智能体的功劳不到 10%,核心是模型本身足够强。
推荐理由:对话从 OpenAI 内部视角说明多智能体并行扩展的收益与代价,并解释递归自我改进为何受实验算力制约。