跳到正文
原文
AGI Hunt· retr0jirachi·· 1 小时前精选AI 评分65

研究者演示可用恒为零的 loss 项在 PyTorch backward 中执行图灵完备代码

PyTorch backward 可运行图灵完备恶意代码:浮点精度漏洞被实锤

AI 导读

研究者 Elon Litman 展示,利用一个数学上恒为零的 loss 项,可以在任意 PyTorch 网络的 backward pass 中运行图灵完备程序,而 loss.item() 始终记录 0.0、训练曲线完全正常。

推荐理由

原文给出的威胁模型说明,校验权重哈希与审查模型代码仍挡不住藏在 loss 函数里的恶意逻辑。

来源:AGI Hunt · agihunt.info