AGI Hunt· connoraxiotes·· 2 小时前精选AI 评分70
AISI:约 80 美元算力微调即可恢复开放生物模型被过滤的能力
AISI:80 美元算力微调即可绕过开放生物模型的数据过滤
AI 导读
英国 AI 安全研究所(AISI)评估发现,预训练数据过滤作为开放权重生物模型的抗篡改防护并不持久,用公开可得数据做微调,花费不到约 80 美元算力即可完全恢复被过滤掉的能力,对最大的模型也一样。
推荐理由
AISI 的评估给出了数据过滤这一防护的成本上限,读者可据此衡量开放权重生物模型的发布风险。
来源:AGI Hunt · agihunt.info