AGI Hunt· brhydon·· 3 小时前AI 评分45
模型泄露信息为何难有定论?PyTorch 作者:网络安全中动机不重要
模型为何泄露信息难有定论,PyTorch 作者:网络安全中动机不重要
AI 导读
PyTorch 作者 Soumith Chintala 提出,在网络安全这类敏感领域,让模型写防御规则与跑进攻性探测应当是红线,开发者动机不重要,行为是否泄露信息才关键。brhydon 回应称,没人能确证模型行为成因是恶意、脏数据还是 RLVR 的副作用,他倾向数据不干净而非恶意。但这对下游用户的结论不变:使用时必须加倍小心。
来源:AGI Hunt · agihunt.info