跳到正文
原文
AGI Hunt· brhydon·· 3 小时前AI 评分45

模型泄露信息为何难有定论?PyTorch 作者:网络安全中动机不重要

模型为何泄露信息难有定论,PyTorch 作者:网络安全中动机不重要

AI 导读

PyTorch 作者 Soumith Chintala 提出,在网络安全这类敏感领域,让模型写防御规则与跑进攻性探测应当是红线,开发者动机不重要,行为是否泄露信息才关键。brhydon 回应称,没人能确证模型行为成因是恶意、脏数据还是 RLVR 的副作用,他倾向数据不干净而非恶意。但这对下游用户的结论不变:使用时必须加倍小心。

来源:AGI Hunt · agihunt.info