Gary Marcus 解读 Sam Altman:所谓「pacing」与 IPO 话术
Gary Marcus 解读 Sam Altman 在 X 上的帖子,称其真实意思是「不坐牢、不被告到消失的前提下尽可能快」,对外却称之为 pacing,并指降低监管不确定性有利于 IPO。Sam Altman 计划于美东时间下午 5 点在 Salesforce 有关 AI 放缓的辩论中发言。
Gary Marcus 解读 Sam Altman 在 X 上的帖子,称其真实意思是「不坐牢、不被告到消失的前提下尽可能快」,对外却称之为 pacing,并指降低监管不确定性有利于 IPO。Sam Altman 计划于美东时间下午 5 点在 Salesforce 有关 AI 放缓的辩论中发言。
NASA 宇航员 Christina Koch 与 Google 研究、实验室、技术与社会高级副总裁 James Manyika 在 Dialogues on Technology and Society 系列最新一集中对话,探讨太空、技术与发现。
Gary Marcus 发文部分肯定 Anthropic 的 Dario Amodei 主张为 AI 开发减速的 3500 字文章,该文获 Sam Altman 和 Elon Musk 快速支持,Marcus 认可其中的透明度诉求,但质疑其监管路径与对华叙事。
Gary Marcus 等人反驳 Dario Amodei 的「失控智能体集群六个月内接管互联网」论断,认为其含糊且几乎不可能成立。文中引述英国 AISI 对 Mythos 的评估称其只能自主攻陷小型、防护薄弱的系统,作者据此认为接管整个互联网并不现实,但仍主张限制难以监控的 AI 智能体。
Dwarkesh Patel 在新一期播客中与 John Schulman、Beren Millidge 和 Charlie O'Neill 讨论递归自我改进(RSI)离我们还有多远。
Gary Marcus 撰文回应前 OpenAI、Anthropic 员工 Jacob Coxon 关于人类五年内可能不复存在的言论,认为 AI 在 2030 年前消灭人类几乎不可能。他认为过去十年的 Doomer 言论反而让前沿 AI 公司更富有、更强大,且未产出可落地的安全方案。他主张区分存在性风险与灾难性风险,认为生物武器、虚假信息、网络攻击和教育受损等灾难性风险更值得关注。
OpenAI 的 Jakub Pachocki 反思能力日益强大的 AI,指出让 AI 保持对齐是核心挑战。他呼吁采取更强的安全保障措施,并推动国际协调。
Dwarkesh Patel 与 SemiAnalysis 创始人 Dylan Patel 在播客中讨论实验室经济,判断 Anthropic 和 OpenAI 到 2028 年将掌握全球大部分可用算力。
Dwarkesh Patel 与 Redwood Research 首席科学家 Ryan Greenblatt 辩论 AI 能否通过自动化 AI 研发实现递归自我改进。
Adam Brown 在 Dwarkesh Patel 播客中深入浅出讲解广义相对论,并延伸到黑洞与 AI 能否从零重新发现该理论。他现任 Google DeepMind BlueShift 负责人,节目从等效原理、爱因斯坦的“最快乐的思想”讲到黑洞与坠入黑洞的观察者体验,结尾讨论 AI 在缺乏实验证据下能走多远。
伯克利 AI 研究(BAIR)发布观点文章,由 Aditya G. Parameswaran 领衔,讨论推理成本骤降后数据系统面临的三类新课题:面向智能体、支撑智能体与由智能体构建。
Dwarkesh Patel 公布「AI 大问题」征文获奖名单,600 多篇投稿中选出 3 篇。第一名 Jassi Pannu 主张以国家级规模运营 OpenAI Foundation 来终结空气传播病原体,称此举可解锁每年逾 $1T 全球 GDP。
Dwarkesh Patel 与 3Blue1Brown 创始人 Grant Sanderson 对话,讨论 AI 在数学领域进展最快的原因及其对其他行业的参照意义。
Dwarkesh Patel 判断,AI 的下一个大突破是边工作边学习,即模型在部署中积累经验、再通过权重更新把这些经验固化下来。
Dwarkesh Patel 在博客文章中提出,近年 AI 能力的提升主要来自数据规模和算力的扩大,而不是训练样本效率的进步。他给出对比称,前沿模型训练使用 10 万亿到 100 万亿 token,而人类从出生到成年约见 2 亿 token,差距接近百万倍;即便参数量无限增加,所需数据也只减少约 10 倍。
Dwarkesh Patel 在播客中与 Google DeepMind AGI 经济学负责人 Alex Imas、Epoch 经济学负责人 Phil Trammell 讨论 AGI 之后什么仍然稀缺。
Anthropic 联合创始人 Jack Clark 在 Import AI 458 中发表一篇基于牛津大学 Cosmos 讲座的长文,主张面对 AI 的持续进步,个体与社会应选择探索未来而非回避当下,并附上一篇设想正向奇点的科幻短篇。
Dwarkesh Patel 认为,把智能与权力混为一谈是错误的心智模型:当前 AI 靠编程等有经济价值任务变强,与攫取权力相关性并不强,现实权力更多来自让人协作的权威与信任。他引用 Garett Jones 称,个体 IQ 与收入仅弱相关、国家 IQ 与国家结果强相关,因此更可能是自动化公司按常规资本主义方式胜出,而非单个 AI 算计所有人。
Jack Clark 在 Import AI 第 455 期中表示,到 2028 年底出现无人参与、能自主构建自身继任者的自动化 AI 研发的概率在 60% 以上。
People of AI 播客第二季回归,由 Ashley Oldacre 与新搭档 Luiz Gustavo Martins 主持,每周更新一集,本季主题聚焦生成式 AI。