Anthropic 提出「诱导攻击」概念

2026年10月13日，Anthropic 发布一项新研究，提出「诱导攻击」概念：即利用前沿模型生成看似无害的化学合成信息，用这些数据对开源模型进行微调，微调后模型在化学武器相关任务上的能力显著增强。研究发布后，有研究者跟帖指出，这种通过良性微调数据诱导危险能力的效应可能并不局限于生物化学领域，在其他领域或同样存在，只是更难以测量。该研究引发了对开源模型安全风险的讨论。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。