新研究：基于无知的防篡改仅适用于宽泛知识域

新出炉的负面结果表明，针对开放权重模型的「基于无知的防篡改」，只有在被隐藏的知识域足够大且与模型其余知识显著分离时才可能实现。该防御难以覆盖窄域，且防御开放权重模型被恶意微调的瓶颈更可能在数据集收集，而非代码配置或算力成本。