跳到正文
热点事件持续更新

语言模型方向敏感扰动与失败动态研究

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月26日,arXiv cs.CL 发布一项研究,提出一种对语言模型语义脆弱性的方向敏感、读出相对的解释:保留任务要求的改写就能让模型答错,而更大的内部表征变化却未必改变答案。作者以“储备-传输”模型在 Qwen3-32B 与 Gemma 4 31B 上检验,称该模型能在留出族和条目上预测失败;迁移到 ReClor 任务时有效,但依赖参数化设置。匹配干预实验显示,方向携带超出标量几何的因果信息,但失败很少在选项顺序改变后持续出现,表明方向效应依上下文而定。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月26日
  1. arXiv cs.CL
    多扰动,共享失效动力学:追踪语言模型中的方向敏感扰动影响

    研究提出方向敏感、读出相对的语言模型语义脆弱性解释:保留任务改写可致答错,更大内部变化却未必改变答案。储备-传输模型在 Qwen3-32B 与 Gemma 4 31B 的留出族和条目上预测失败,向 ReClor 迁移有效但依赖参数化。匹配干预显示方向有超越标量几何的因果信息,但失败很少跨选项顺序持续,方向效应依上下文。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。