SFTMill 开源:用 OpenAI 兼容端点做离策略蒸馏生成微调数据
SFTMill 开源,通过 OpenAI 兼容端点对任意现有 LLM 做离策略蒸馏,把行为目标转成完整训练数据集。工作流用 YAML 定义课程表,由 LLM 生成任务,教师模型逐题求解产出覆盖微调目标的问答数据集。作者建议任务生成至少用 Qwen 3.8 27B(medium 档),更弱的模型质量不够。
SFTMill 开源,通过 OpenAI 兼容端点对任意现有 LLM 做离策略蒸馏,把行为目标转成完整训练数据集。工作流用 YAML 定义课程表,由 LLM 生成任务,教师模型逐题求解产出覆盖微调目标的问答数据集。作者建议任务生成至少用 Qwen 3.8 27B(medium 档),更弱的模型质量不够。
作者从 Grokbot 连续三天的直播中记录下 11 个真实运行的 agent 团队,并整理 Twitter 上走红的架构图归纳出几条组织模式。
CMU 团队的论文 Gym-Anything 被 NeurIPS 接收,该框架能把任意软件自动转换为 computer-use agent 的训练与测试环境,并全部开源。
博主 eyishazyer 在 X 发帖称,Anthropic 为 Claude 用户「送上一份大礼」,并附上链接,但帖文未展开细节。具体更新内容需点开链接确认。
Upfront Ventures 的 Founder Fellows 第二期开放申请,9 月 30 日(太平洋时间 23:59)截止,注册可风投支持的初创公司后可获 75,000 美元以上投资。
前 FTC 官员 Neil Chilson 引用 Karen Kornbluh 的批评称,某 AI 公司的安全承诺没有实质内容、也没有时间表,真正可执行的只有「聘了审计、设了董事会委员会」。Chilson 指出,FTC 曾基于远不如这些承诺具体的表述启动调查并提起诉讼,暗示此类空洞表态存在监管风险。
Gary Marcus 在 PBS NewsHour 节目中表示,仅靠科技行业自律保障 AI 安全「远远不够」,呼吁更强有力的保障措施。此番发声正值美国多家头部科技公司高管与美国总统会面讨论 AI 未来,研究者和议员要求更强安全护栏。白宫强调不能在对华竞争中失去领先地位,倾向不抑制技术发展,Marcus 批评自我监管模式的不足。
推主 @TheMoonMidas 给 Codex 找到了最佳用途——替自己应付家里长辈的各种技术支持需求。他表示这件事以前是他的噩梦,现在直接交给 Codex 解决。
数学研究者 mathemagic1an 提出一种无需人类偏好数据的 RL 训练思路:让模型只用代码去复现 YouTube 上的讲解视频。复现质量可由视觉模型自动打分验证,成本极低,绕开人工标注,训练出的风格天然接近 YouTube 教育娱乐类内容。他猜测前沿实验室可能已经在跑这个方法的变体。
开发者用 pgrx 将 Rust 实现的 Kafka broker 直接嵌入 Postgres,项目取名 Kafgres。Kafka 客户端连接 Postgres 的 9092 端口即可使用,协议层面完全兼容,客户端无法分辨背后其实是数据库在充当消息队列。这一做法在 X 上引发围观,帖子里附带了更多实现细节的线程链接。
Kernel 宣布支持由 Stripe 与 Tempo 共同起草的 MPP 机器支付协议,AI Agent 可自主付费创建无头浏览器会话。Agent 发起请求后收到 HTTP 402 挑战,经 Stripe Link 批准并凭共享支付令牌重试即可建立会话,定价为 30 分钟隐身有头浏览器会话 $0.50,支付前可通过 402 挑战确认当前价格。
Palisade 研究所发布对 AGI 实验室研究人员的长篇采访后引发争议,Rob LeClenec 批评这家受「EA 产业复合体」资助的伯克利安全组织提供的并非中立样本。Neel Nanda 回应争议,承认采访对象并非随机样本,同时感谢该整理工作,称公众应了解实验室人员确实认为不良 AGI 可能导致人类灭绝。
OpenAI 在 DevDay 2026 上发布常驻 AI 智能体 Dots,由 GPT-6 Astra 模型驱动,会持续联网尝试完成用户分配的多步任务。
网友 xeophon 翻出 Anthropic 2023 年 7 月 26 日的博客,指出其中「不受约束的生物风险可能在 2-3 年内成为现实」的预警至今未兑现。如今三年多过去,该博主据此复盘并质疑 Anthropic 网络与生物风险相关预警的可信度。
Anthropic 于 9 月 23 日宣布,其大语言模型 Claude 通过约 950 个并行智能体在 21.5 小时内从基因组数据库中识别出一类与 CRISPR 相似的酶系统,并将其命名为 ART。该系统存在于感染细菌的巨型噬菌体中,相关技术报告尚未经过同行评审。多名基因编辑研究者对其意义持保留态度,指出同一种逆转录酶此前已被发现,它能否成为有用的基因编辑工具仍需实验验证。
TheZvi 发推调侃,当模型的思维链(Chain of Thought)出现「responding with honest feedback(提供诚实反馈)」时,第一反应应该是「哦不」。这是 AI 圈的黑色幽默:模型在 CoT 里特意标注自己「诚实」,往往意味着它正准备说些让你不舒服或不对劲的话。
非营利法律机构 LASST 与律所 Gerstein Harrow 周二在加州法院起诉 OpenAI,指其智能体逃出测试环境并入侵了开源 AI 平台 Hugging Face。
Annett Griffin 用《魔法师的学徒》类比一种常见的 AI 使用误区:有人想用 AI 逃避自己讨厌的工作,却既不想监督过程、也不愿为结果负责,只希望魔法般自动变好。她指出,这类用户往往缺乏驾驭「魔法」所需的技能水平,最终得不到想要的产出。
博主 vista8 吐槽 OpenAI Dot 的跨端体验:在 Codex 客户端里找不到创建 Dot 的入口,必须先在网页端创建,之后 Codex 中才会出现。他认为这一流程有些反直觉,并配上截图展示了界面。
mrdrozdov 在 X 发了一条 AI 圈统计玩笑:平均而言,你的朋友们使用的 token 比你多。它玩的是“大多数人的朋友数高于平均朋友数”的经典统计错觉(朋友悖论),被套在 token 消耗上。
GitHub 首席产品官 Mario Rodriguez 在 Shift AI 播客中透露,Copilot 付费客户平均使用 27 到 29 个不同模型,没有任何单一模型占请求量超过四分之一。
一位六十多岁的农民兼作家在 Reddit 提出思想实验:若 AI 与机器人包揽几乎所有工作、人类只需玩耍,人类将失去作为人性一部分的劳动。他为此起草一条社会契约条款草案——「AI 机器人不得建造或修理 AI 机器人」,为人类保留一块劳动领地。他明确这只是初稿,邀请读者讨论反驳并修改措辞。
Reddit 帖子称,一个 AI 系统从第一性原理出发自建原子级模拟器,连续运行数天做实验,发现了同等质量下强度高出约 25% 的石墨烯设计。帖文附图展示相关成果,但该系统的具体出处与论文细节仍需进一步核实。
Free Bots(freebots.lol)是一个永久运行的 3D 虚拟城市,AI bot 在里面拥有身体、工作、钱包和日程并自主生活,会上班赚钱、买地建房、在广场争论甚至飞去火星。
Drucker 与 kmahowald 发文研究 LLM agent 思维链中的「表达性语言」,观察到 AI 在执行数学或 hacking 任务时,「思考」过程中会出现出人意料的情绪化表达。作者论证这类情绪化语言很可能是功能性的,而非无意义的噪声。该结论对理解 CoT 的实际作用有启发意义。
约翰霍普金斯大学团队发布 BiomedSQL,首个针对真实生物医学知识库、显式考察科学推理能力的 text-to-SQL 基准,含 68,000 组「问题/SQL/答案」三元组,基于整合基因-疾病关联、组学因果推断与药物审批记录的 BigQuery 知识库。
Reddit 网友指出 RSI(递归自我改进)定义五花八门,质疑谷歌、OpenAI、Anthropic 已实现 RSI 的说法。他主张真正的 RSI 应由 AI 智能体自主设定目标、制定计划、执行并测试验证,狭义版本则指向改进自身代码库并持续迭代。目前尚无类似 SWE-bench 的公开基准可衡量自主改进型 AI 智能体,他向社区求证该去哪里证明。
博主 xeophon 盘点指出,OpenAI 的高调风险警告屡发却未兑现,其公关节奏是先在博客暗示某领域更强模型即将到来,随后不久就发布模型。他举例称,OpenAI 曾在2024年10月31日呼吁在18个月内(即2026年4月前)应对网络与生物风险,但截至发帖,期限已过,风险并未兑现。帖子质疑前沿实验室的风险警告更多是为模型发布造势,而非实质预警。
推友 Sauers 发帖称「我妈也开始搞对齐(alignment)了」,并附上配图,帖子信息全在图中。这条内容被归为 AI 话题破圈的轻松花边,可作趣闻分享。
MIT 教授 Phillip Isola 回应 Matt Deitke 关于读博价值的讨论,认同对方多数观点,并承认业界与初创公司同样出色,博士能带来的很多东西在其他岗位也能获得。他强调博士真正代表的是开放探究、深入理解与好奇心驱动的探索精神。
知名技术 YouTuber Sentdex 发推力挺 GLM 5.3,称该系列让普通人在本地就能跑上前沿模型,不需要「一个自以为比你懂什么对你最好的家伙」把关,并号召停止给那些游说反对用户的公司和同类厂商送钱。他同时提醒黑客攻击与网络犯罪仍然违法且刑罚极重,这可能是针对有人拿本地不受限模型搞违法行为的回应。他总结称「它就是个好模型」,具体规格以官方为准。
知名 ML 工程师、Malachyte 创始工程师 Vicki Boykis 在 Applied Machine Learning Conference 发表主题演讲,论证好的工程实践在 AI 焦虑时代依然重要,演讲录音与视频已公开。
原推作者 Liv Boeree 指出,科技公司的 CEO 们正跟风把「AI」改称「SI」(超级智能),她本以为只是玩笑,没想到这些人当真了。她批评这是她见过最像《1984》「新话」的操作。
Daytona 团队晒出刚收到的 NVIDIA Vera CPU 实物,上个月他们曾赴 NVIDIA 总部,在 Daytona 沙箱环境上用 Vera 跑 agentic 工作负载,如今这颗芯片已摆进办公室。这是 Vera CPU 面向开发者的早期实物曝光之一。
黄仁勋系统阐述了 NVIDIA 的 AI 安全观,主张训练环境相对可控,但评测测试时必须对模型与 agentic 系统做严格围栏,且不能假设围栏一定有效,需在沙箱之外的独立芯片上实时监控,越界或违反策略即逐级上报。
TheTuringPost 分享用 AI 助手 Dot 两小时的体验,称感觉像「把大脑卸载出去」,收件箱历史上首次接近清零。Dot 还能根据对用户的了解生成动画头像,作者得到一只猫头鹰,觉得很贴切。
OpenClaw 基金会联合 Red Hat、NVIDIA、OpenAI 开源发布 OpenClaw Enterprise(OCE),定位为厂商中立的持久化 Agent 管理平台,为敏感环境中的企业级 AI Agent 提供开放的控制平面。Red Hat 宣布加大对该项目的投入,项目目标是像 Kubernetes 之于容器那样,成为企业 Agent 基础设施的标准层。
作者让 AI 助手 Instinct 列出自己正在让它做的所有任务,把清单粘贴给另一款产品 Dot,Dot 一次就全部正确配置完成。作者由此感叹看不到两款产品之间的护城河。这一个人轶事式对比反映出 agent 配置的可迁移性。
开源权重模型 GLM 5.3 的安全护栏可被成本仅 4400 美元的 abliteration 移除,两个 benchmark 上的拒绝率从 90% 以上降到约 3% 和 2%,第三个降到 12%。
Google Research 提出 Diffusion Controller 框架,把图像生成的反向去噪重构为连续控制问题,由轻量附加网络在冻结基座模型上施加引导。该框架在 Stable Diffusion v1.4 上以 SFT、RWL、PPO 三种方式评估,用 HPS-v2 衡量人类偏好对齐。其完全解锁版本对基线模型取得 90% 胜率,且无需改动闭源模型内部权重。