新研究：基于无知的防篡改仅适合宽泛知识域

2026年10月28日，AGI Hunt 报道了一项新出炉的负面结果，其研究对象是针对开放权重模型的「基于无知的防篡改」防御。研究显示，这类防篡改只有在被隐藏的知识域足够大、且该知识域与模型其余知识显著分离时才可能实现，因此难以覆盖窄域。报道还指出，防御开放权重模型被恶意微调，瓶颈更可能出在数据集收集环节，而非代码配置或算力成本。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。