跳到正文
原文
AGI Hunt· ibab·· 3 小时前AI 评分50

谷歌研究员 ibab:Reflection Beam 蒸馏中国模型,反而更安全

谷歌研究员称 Reflection Beam「蒸馏洗白」中国模型,反而更安全

AI 导读

谷歌研究员 ibab 称 Reflection 的 Beam 模型本质上是「洗白」产物,它蒸馏了中国模型,而中国模型又蒸馏了美国顶级模型。他认为这其实是件有用的事,因为美国公司若担心中国模型存在后门,蒸馏过程恰好能清除后门,Reflection 也可以检查自己的训练数据,确保其中没有后门行为。这使模型在关键应用中更安全可用,整体上会增加信任,对美国开源权重生态是好事。

来源:AGI Hunt · agihunt.info