用户故意用 DeepSeek 网页版让 Whale 模型蒸馏自己的工作数据
用户 teortaxesTex 刻意使用 DeepSeek 网页版,让其中的 Whale 模型「收割」自己的数据,包括他在其他付费模型上产出的工作成果,并称这种做法为「众包蒸馏」。他的理由是数据反正会被拿去训练,不如主动贡献,让模型能力「从所有人之手回到所有人」。这既是对大厂数据训练惯例的戏谑,也反映了部分重度用户对蒸馏机制的默认与利用。
用户 teortaxesTex 刻意使用 DeepSeek 网页版,让其中的 Whale 模型「收割」自己的数据,包括他在其他付费模型上产出的工作成果,并称这种做法为「众包蒸馏」。他的理由是数据反正会被拿去训练,不如主动贡献,让模型能力「从所有人之手回到所有人」。这既是对大厂数据训练惯例的戏谑,也反映了部分重度用户对蒸馏机制的默认与利用。
开发者 maierak 质疑论文《The Midas Touch for Code: Scaling AI Coding Environments Straight from Source》可复现性与统计置信度均不清楚:该工作未与基于 issue 的管线做正面对比,只用了单一模型和单一随机种子,生成用的 agent 未公开。
arthurcolle 开源了 Graphsub,一个面向 Agent 数据的快速内存图数据库,主张不要把 Agent 数据托付给单一 AI 公司。该讨论由 lux 发起,他指出 Agent 产生的数据应能反哺未来交互,甚至作为训练集,其归属与托管方式成为行业议题。Graphsub 为社区提供了自托管的技术选项。
数学研究者 mathemagic1an 提出一种无需人类偏好数据的 RL 训练思路:让模型只用代码去复现 YouTube 上的讲解视频。复现质量可由视觉模型自动打分验证,成本极低,绕开人工标注,训练出的风格天然接近 YouTube 教育娱乐类内容。他猜测前沿实验室可能已经在跑这个方法的变体。
Anthropic 于 9 月 23 日宣布,其大语言模型 Claude 通过约 950 个并行智能体在 21.5 小时内从基因组数据库中识别出一类与 CRISPR 相似的酶系统,并将其命名为 ART。该系统存在于感染细菌的巨型噬菌体中,相关技术报告尚未经过同行评审。多名基因编辑研究者对其意义持保留态度,指出同一种逆转录酶此前已被发现,它能否成为有用的基因编辑工具仍需实验验证。
Sam Witteveen 关于 Jev 论文的分析指出,分类模型在决策场景重新流行,主因是预训练质量提升。该分析认为,基于大模型预训练的模型在决策/分类任务上已具备实用质量,传统 LLM 生成式方案并非唯一选择。
MIT Technology Review 已敲定 2026 年度"值得关注的气候科技公司"名单,将于 10 月 6 日正式发布。名单共 10 家公司,覆盖储能、核能、交通等领域,入选者被认为最有能力真正削减排放或改善公共安全与健康。读者可订阅 The Download 通讯抢先看到该名单。
在 Wired 的访谈中,AI 研究者 Timnit Gebru 表示 AI 并不构成存在性威胁,认为这一叙事不只是分心,而且有害。她把这种叙事追溯到资助 Anthropic 早期融资并资助 METR 等机构的人群,称其为监管俘获的一部分,并援引 Lina Khan 提出的欺骗性营销、数据透明度与数据工人劳动剥削等现有法律本该管辖的事项。
X 用户 xeophon 质疑「开源模型能力主要靠对抗性蒸馏获得」的说法:若该论断成立,开源模型为何表现能超过闭源模型,且拒绝率更低甚至没有?他补充称自己曾直播强化学习运行过程、开源了部分环境,仍有人不相信其结果,暗示相关能力来源争议更多是立场问题而非证据问题。
Karpathy 的 autoresearch 自动化研究流程一次运行中,智能体尝试 89 个实验来改进一个小模型,到第 44 个实验时已拿到全部收益的 92%。此后机器仍在持续工作,但收益越来越小。作者据此指出,把研究循环自动化并不会让改进自动加速。
OpenAI 官方账号发文,阐述其如何为前沿强化学习训练任务(RL training runs)构建安全保障,涉及训练基础设施的防护思路。该聚合来源称,这是头部实验室首次系统性地公开讨论 RL 训练环节的安全框架。
Oracle 云工程集团副总裁 Johnnie Konstantas 表示,agentic AI 让智能体及其子智能体可携带个人权限访问数据、甚至对工作流执行操作,身份控制因此必须尽量统一且无处不在。Oracle 已将 agentic AI 方案集成进安全产品组合,并在最新版 AI 数据库中推出面向 agentic AI 的能力,帮助客户在不牺牲数据安全的前提下推进 AI 创新。
TypeSafe AI 的 Diogo Almeida 在 Latent Space 播客中介绍新模型 Jev,把它定义为以代码为消费方、按每美元智能优化的 System 1 模型。
Good Start Labs 把 Diplomacy、1830 等游戏当作 AI 模型的训练环境,其 30B 模型实验显示只有 multi-turn terminal agent 设计提升了 Finance-Agent benchmark 表现,单轮问答设计仅改善游戏内目标。
Dwarkesh Patel 在新一期播客中与 John Schulman、Beren Millidge 和 Charlie O'Neill 讨论递归自我改进(RSI)离我们还有多远。
OpenAI 内部,编程智能体正在重塑 AI 研究。OpenAI 公布了关于智能体使用情况、实验速度、任务复杂度以及研究加速的早期数据。
Dwarkesh Patel 与 SemiAnalysis 创始人 Dylan Patel 在播客中讨论实验室经济,判断 Anthropic 和 OpenAI 到 2028 年将掌握全球大部分可用算力。
Dwarkesh Patel 与 Redwood Research 首席科学家 Ryan Greenblatt 辩论 AI 能否通过自动化 AI 研发实现递归自我改进。
Dwarkesh Patel 发布对持续学习时代的 8 条预测,认为模型权重若随每日部署持续更新,训练完成到部署之间的一次性安全评估将不再适用,对模型厂商的检查更宜改为月度或季度风险巡检。
Dwarkesh Patel 发布视频版文章,探讨更聪明的 AI 模型为何可能将算力价格推高 10 倍。视频为其上周一篇文章的录像版本。该视频由 Mercury 赞助,其内置 AI Command 可自动归类交易、给出每项选择理由,并同步至 QuickBooks。
Dwarkesh Patel 在博客中提出,随着模型越发智能、同一份算力能变现更多收入,未来几年 AI 算力价格可能上涨 10 倍以上。
Dwarkesh Patel 与 3Blue1Brown 创始人 Grant Sanderson 对话,讨论 AI 在数学领域进展最快的原因及其对其他行业的参照意义。
Dharma AI 撰文解读 Goldfeder、Wyder、LeCun 与 Shwartz-Ziv 的论文,该论文主张 AI 专业化不可避免。文章引述 1997 年 Wolpert 与 Macready 的优化理论证明:没有算法能在所有问题上占优,通用性不构成性能优势,任务集无限扩张时每任务资源趋近于零。进化生物学与市场竞争给出同一预测,论文称通用性在实践中是神话。
NVIDIA 研究人员提出 ENPIRE,让编码智能体驱动物理机器人自主试验与迭代,在 PushT、插针入盒、切割扎带等任务上把策略成功率提升到 99%。
Dwarkesh Patel 判断,AI 的下一个大突破是边工作边学习,即模型在部署中积累经验、再通过权重更新把这些经验固化下来。
Dwarkesh Patel 在博客文章中提出,近年 AI 能力的提升主要来自数据规模和算力的扩大,而不是训练样本效率的进步。他给出对比称,前沿模型训练使用 10 万亿到 100 万亿 token,而人类从出生到成年约见 2 亿 token,差距接近百万倍;即便参数量无限增加,所需数据也只减少约 10 倍。
Import AI 457 期聚焦三项研究:疑似早于 Stuxnet 的 fast16.sys 病毒、Muon 优化器的神经元死亡缺陷,以及"正向对齐"立场论文。