热点事件持续更新
PRISM:激活干预跨精度语言规模迁移研究
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月16日,arXiv cs.CL 刊出 PRISM 研究,提出用于评估工具调用语言模型中激活干预迁移性的框架,考察其在数值精度、语言与模型规模三个维度上的迁移效果与局限。研究采用 NF4 量化标签构造监督方向,并测试跨语言迁移:由五种语言得到的 NF4 监督方向可迁移至未见过的阿拉伯语,使 Llama-3.1-8B 的不安全违规下降 21.95 个百分点,且无需目标语言调优。研究还显示,配对良性激活可将安全干预迁移到参数规模最大至 70B 的更大模型。实验代码与交互式探索器已公开。
AI 根据报道生成 · 1 小时前更新
最新进展10月16日 12:00
PRISM 框架发布:NF4 激活干预可跨语言迁移,Llama-3.1-8B 违规降 21.95 个百分点。报道时间线
沿着报道,了解事件的不同侧面。
10月16日
- arXiv cs.CLPRISM:工具调用语言模型中激活干预的迁移与局限
PRISM 框架用于评估激活干预在精度、语言与规模间的迁移,借助 NF4 量化标签与跨语言迁移暴露并改善模型对齐。五语言 NF4 监督方向可迁移到未见阿拉伯语,使 Llama-3.1-8B 的不安全违规下降 21.95 个百分点,且无需目标语言调优。配对良性激活还能把安全干预迁移到最大 70B 参数的更大模型;实验代码与交互式探索器已公开。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。