人类与视觉语言模型(VLM)的跨模态关联:选择相似,注意力不同
研究用相同刺激对比人类与 VLM 的跨模态关联,部分较大 VLM 选择与人类一致,但显著性与人类注视的吻合度低于 center-bias 基线。用人类选择微调小型 VLM,可让其对未见词和图像的选择对齐达到人类多数投票参考水平,注意力仍不如该基线贴近人类注视。用人类注视训练注意力只提升注意力-注视相关性,不改善选择对齐。
研究用相同刺激对比人类与 VLM 的跨模态关联,部分较大 VLM 选择与人类一致,但显著性与人类注视的吻合度低于 center-bias 基线。用人类选择微调小型 VLM,可让其对未见词和图像的选择对齐达到人类多数投票参考水平,注意力仍不如该基线贴近人类注视。用人类注视训练注意力只提升注意力-注视相关性,不改善选择对齐。
BRIDGE 将检索增强的智能体强化学习建模为双层优化问题,用内存高效的一阶双层方法联合训练 LLM 与检索器。在七个开放域 QA benchmark 上,它在 3B 和 7B 主干下均取得最高平均准确率,多跳平均较最强基线分别提升 9.6 和 3.4 EM 分。它同时在医疗 QA benchmark 上取得最佳平均答案准确率和推理质量。
Braco 视觉 token 压缩 144 倍仍保持 95.2% 精度,端到端最高提速约 36%。这一轻量四步编码器结合变换基截断、基-坐标嵌入、正交重参数化与轻量池化残差 token,在 23–64 倍压缩下形成最优精度-效率前沿。其 prefill FLOPs 较未压缩上限降低 84.2%–86.7%,压缩器延迟/FLOPs 降低 16.6 倍/78.8 倍。
FinRT 将自适应红队策略蒸馏为可复用对抗提示生成器,在消费金融六个受害模型上将攻击成功率从 Rainbow Teaming 的 17.2% 提升至 32.9%。最大对抗严重性提高 33%,并保持与迭代搜索方法相当的策略域内语义多样性。该方法具备高跨模型迁移性,并呈现不同的受害模型家族特化模式。
AVIO 基于预训练的 text-to-audiovisual 生成模型,通过 source-conditioned 特征调制联合学习音视频场景中发声物体的添加与移除。
研究用 LAPSE 基准发现,长期记忆系统会抹平用户事实的时间形态,三个 writer 模型在 381 对匹配语句中有 244 对只抹平进行时陈述。该非对称在全部 11 种模型配置及 mem0、Graphiti、Letta 中均成立。仅改动存储动词就改变了三个 reader 对事实是否仍成立的估计;三个 reader 中有两个在可询问用户时,对扁平化笔记更常不询问就行动。
CaptchaArena 发布首个面向交互式 CAPTCHA 求解的大规模细粒度训练数据集,覆盖 20 种验证码类型、5 种交互模式共 5 万道经执行验证的题目。基于该数据集训练的单一 9B 策略模型 CaptchaAgent 采用 SFT+RL、由环境验证器直接提供 RL 奖励,Pass@1 从 SFT 后的 70.5% 提升至 71.7%,并在两个外部基准上同样提升,数据集与模型均已开源。
论文从自主性与主动性两个设计维度分析人-AI 协作,并用悖论视角梳理问题、解决方案与内在张力,进而映射出协作模式。它记录了 Instruction、Delegation、Assistance 与 Co-creation 四种人-AI 协作模式,并将发表于 PLoP 2026。
免训练的 Reliable Parallel Decoding(RPD)通过逐层预测稳定性与最终置信度筛选候选,提升 Masked Diffusion 语言模型并行解码的可靠性。
用户 teortaxesTex 刻意使用 DeepSeek 网页版,让其中的 Whale 模型「收割」自己的数据,包括他在其他付费模型上产出的工作成果,并称这种做法为「众包蒸馏」。他的理由是数据反正会被拿去训练,不如主动贡献,让模型能力「从所有人之手回到所有人」。这既是对大厂数据训练惯例的戏谑,也反映了部分重度用户对蒸馏机制的默认与利用。
MemFold 将查询条件下的文本记忆压缩为 K 个连续向量作为 reader 的记忆接口,用任务结果的组相对奖励加冻结教师的 on-policy 蒸馏信号在 reader 自身 rollout 上训练,推理时移除教师。
AAOI(应用光电)被指在美国做过度的垂直整合,CW 激光器产线烧掉大量资本开支后良率依然很差。引用的分析师观点更激进,称只关心 UHP 激光器,Coherent、除源杰外的中国激光公司、Source Photonics(东山精密)与 AAOI 都不行,这批公司是被不懂激光的人推起来的。这折射出 AI 光模块供应链的垂直整合之争与良率隐忧。
一种新算法不再让子目标同时覆盖状态所有方面,而是为每个子目标识别少量相关特征,生成泛化更广、加速探索的选项。现有 option discovery 算法采用 state-reaching,导致选项仅适用于狭窄状态区域、数量爆炸并阻碍奖励最大化。该方法学习抽象可迁移选项,在三个稀疏奖励图像域(含 Atari 游戏 MontezumasRevenge)中实现快速探索。
论文研究带持久记忆的 LLM 能否按用户要求遗忘信息,发现现有模型即使声称已忘记、在有限上下文下仍无法删除这些信息。作者指出,简单删掉与删除请求匹配的消息并不够,因为对话本身会产生消息依赖,使信息继续留存。为此论文提出 DeLLM 框架,为每次查询动态构建相关上下文,并维护消息来源图以确定删除时须移除哪些消息,实验显示其在高删除率下仍保持可用性。
Reddit 用户 Enceladusx17 以「ObviousBench」榜单名义发帖,称 GPT-6 是史上训练效率最高的模型之一,而该榜来源 obviousbench.com 明显是搞笑性质。榜单用一本正经的评测口吻玩「结论显而易见」的讽刺梗,属 AI 圈趣闻。
PAIR 把推理路径视为固定问题内的相位结构化轨迹:对每个问题采样多条轨迹,按归一化轨迹进度映射到共享相对相位,仅在同一问题、同一相位内比较成功与失败轨迹。实验显示,标准跨问题正确性探针在同问题评估下大幅丧失预测力,而 PAIR 在多个模型与 benchmark 上提升了同问题轨迹排序和 Best-of-N 轨迹选择,相位引导还能改变生成结果。
研究者用 Values Survey Module 2013 审计 TypeSafe 决策式模型 JEV 的文化价值观,以沙特与美国人格设定、英语和阿拉伯语收集 288,000 条答案。JEV 回答高度可重复(ICC 0.997),无人格时接近其美国人格;沙特人格下向人类沙特-美国差异移动,英文复现 87%、阿拉伯语 62%,长期取向反转。
DSPO(多样性感知主观策略优化)是一个强化学习框架,通过 VAD 空间中的上下文情感分布先验、Distribution-Aligned Emotional Diversity Reward(DEDR)与 Counterfactual Visual Intervention Gating(CVIG),同时提升 MLLM 情感推理的主观情感覆盖与视觉 grounding。
Anthropic 研究员 Kyle Mahowald 在《大西洋月刊》撰文,探讨 AI 从人类的口误(oops)、懊恼(argh)与顿悟(aha)中获益的机制。danintheory 在 X 上转引该文,并调侃 Kyle 竟知道《星际迷航:下一代》中的 Data 是谁。
首个 ZK 友好量化系统性研究覆盖 9 个语言模型,含 Qwen2.5-14B 与 MoE 模型 Qwen3-30B-A3B。结果显示激活精度比权重精度敏感得多,非线性查找近似可主导效用下降,RMSNorm 平方根倒数查找是多个大模型的反复瓶颈。降低位宽或查找表规模并不必然带来成比例的端到端证明开销节省。
DuLBE 以双模式低秩学习结合桥原型集成分类器,实现免样本的视觉-语言类增量学习并达到 SOTA 性能。它按梯度需求分配两种视觉低秩更新模式并以梯度路由协调:共享模式复用可迁移知识,残差模式为任务特定变化提供低干扰通道。方法还在单位超球面上为视觉原型与文本嵌入构建测地桥并集成可靠的桥原型,以弥补文本决策边界的模态差距,同时保持低秩调优的参数效率。
DeepRewind 是可逆深度研究的附加控制层,把智能体的认知状态表示为类型化图,用于预测并修复过早的结论承诺。它用基于提示词的世界模型评估可逆性,二值控制器拦截高风险承诺,一致性监控器在后续证据推翻时执行依赖感知回滚。在 DRBench 和 LiveDRBench 上,洞见召回相比 Open Deep Research 提升 3.6 个百分点,过早承诺减少 59.1%。
开发者 gandamuml 让 LLM 在 tapes 中记录执行顺序,再在克隆环境按序回放,为 Minecraft 1.21.11 世界生成提供了可复现的确定性验证。Minecraft 1.21.11 的世界生成受 Java 运行时差异影响,同一版本自身每次运行结果都可能不同。该方案在完成确定性验证的同时,保留了正式发布运行的灵活性。
研究者把 Transformer 语言模型中上下文 token 吸收进权重形成的乘法算子称为“安全算子”,其主导特征值可像连续旋钮一样调节安全指令对生成的影响强度。
FastVR 是一个基于一步扩散模型的流式视频修复框架,可在单张 H20 GPU 上以 11 FPS 处理 1080p 视频。它结合轻量 VAE 与分块因果注意力降低推理成本,并用速度一致性正则化和连续轨迹学习提升修复质量。实验显示 FastVR 比所评估的扩散基线更高效,并在合成与真实世界 benchmark 上达到 SOTA。
论文提出口述训练(VT),让 LLM 更愿意口述自身的评估意识,同时不直接监督潜在信念。VT 把 rollout 截断在模型自发口述之前、以模型已知情的训练前缀配合 RL 目标校准口述比例;在 Qwen3.6-35B-A3B、Kimi K2.6 和 Inkling 上,可口述的评估意识提升 2.4-2.9 倍,并能迁移到未见过的智能体场景,测得的潜在评估意识与行为基本稳定。
研究在 13 个 RelBench 任务与 5 种关系 ICL 配置上测试 20 个目标派生特征,0-hop 目标表与包含全部 20 个泄漏列的 Full 泄漏造成最大评估偏差。泄漏影响高度依赖任务与模型,聚合变化很小时也可能反转模型变体的相对结论。Integrated Gradients 筛查在 0-hop 与 Full 条件下排序质量最佳,但删除检出的泄漏列不能稳定恢复干净评估。
6 个视频、97 格人工标注的横测显示,LLM 漏提取的瓶颈在 ASR 分段切断而非模型能力。本地 CLI + Google One Pro 下 gemini-3.7 与 3.8 均达 91/97 = 93.8%,逐视频分数和错误完全一致,但 3.8 慢 5-6 倍。3.6、3.7-medium、3.7-high 在同一视频都漏掉同样 4 格,DeepSeek V4 Flash 仅 71/97。
NesTok 提出面向动态视觉 tokenizer 的嵌套自对齐框架,通过跨长度训练让短 token 序列接近全长序列的重建质量,在 ImageNet 上 rFID 达 0.98。其下游图像生成在 ImageNet 256×256 上取得现有可变长度自回归图像生成方法中最优 gFID 1.46。代码将公开。
HeurEvo 是面向时间受限数学优化的 plan–code–component 协同进化框架,联合进化算法结构、实现代码与共享组件池。在组合优化 benchmark 与 MIPLIB 实例上,它能在严格运行时限内找到高质量解,常匹敌或超越需数小时至数天计算的 SOTA 求解器。在六边形填充等非线性几何问题上,它也超过此前最佳结果。
PhenoAIR 是可靠性感知的多智能体框架,在来自 JUMP Cell Painting 的基准所有 MOA 预测设置中超过表征匹配与 LLM 基线。它将 Cell Painting 的 MOA 预测从表征匹配重构为校准证据推理,维护以候选为中心的证据记忆,并用离线参考集校准按来源可靠性、表型稳定性和机制级混淆加权。该工作入选 NeurIPS 2026 main track。
开发者 @jonkragh 盘点 OpenAI DevDay 上被忽视的三个信号:ChatGPT 插件分发窗口、Codex 安全 agent 与 Decisions API。
MoRe-Drag 是运动锚定的拖拽式编辑方法,将像素空间 warping 作为粗运动证据注入生成采样轨迹。它通过区域感知潜在重组和阶段自适应条件,从运动结构生成转向语义精修,并以适配 MLLM 文本编码器实现无指令界面。在 DragBench-SR 和 DragBench-DR 上,其拖拽精度优于强基础编辑器并领跑 SOTA 拖拽方法,语义一致、视觉真实,代码和数据集将公开。
研究者提出 Population Fidelity 框架,从群体层面准确度、群体间差异量及其结构三个维度评估 LLM 生成回答的人群代表性。将该框架用于复现 LLM 问卷回答“machine bias”研究及更新模型后发现,代表性不佳既因群体间差异不足,也因差异被归入错误群体;cultural fine-tuning 虽能提升与调查中心的契合度,却不改善群体内差异的代表性。
ARCagent 是面向 ME/CFS 临床问答的自适应检索校准智能体,取得 95.3% 的成绩,超过所有基线 LLM。它包含 1,706-chunk、10-source 知识库与跨指南冲突注册表,并按 query-specific focus 和冲突信号对检索证据重排序。评测采用 LLM-as-Judge,避开关键词匹配造成的平均 10.1 个百分点系统性低估,代码已开源。
OpenAI 在 Dev Day 上演示了由约一万个智能体组成的研究集群,协作求解纳维-斯托克斯方程。不同研究团队分别探索不同思路,跨团队保持通信,再汇总整合各自成果,展示了多智能体协同科研的真实运作方式。有转发者称其为现场「最重要的 alpha」。
AESplat 提出解耦外观建模策略,用于无位姿前馈 3D Gaussian Splatting,以提升新视角合成的渲染质量。该方法无需训练即可从输入图像直接得到表示视角无关基础外观的零阶 SH 系数,高阶 SH 系数则由带两个 3D-aware 归纳偏置的浅层 MLP 预测,以建模视角相关外观变化。
OLIVE 是一种在线语言模型蒸馏方法,每轮由学生生成前缀、教师自回归续写,学生用教师生成 token 的交叉熵更新。在可比 GPU 小时成本下,其推理性能高于 OPD(top-16 KL 近似),异步实现进一步减少 23.8% 训练时间。仅用 GPT-5.4-mini 的文本,在 ScienceWorld 上持续训练比同教师离线 SFT 高 13%。
PersonaDose 校准描述条件 FLAS 控制器,实现人格特质表达的分级控制。在 Llama-3.1-8B、Qwen3-8B、Gemma-3-4B 上,核心特质表达较 contrastive activation addition 提升 33.2、18.3、17.8 分。七个已训练特质上,平均目标误差为 4.7-6.2 分。
tszzl 预言,在真正超级智能出现之前,人们会发现神经网络可以分解为某种「演化出来的符号系统」。Quintin Pope 调侃回应:「你说的是一棵特别大的决策树?」二人交锋触及可解释性研究的核心问题——神经网络的内部结构能否被还原为可读的符号化机制。