跳到正文
原文
AGI Hunt· NellWatson·· 3 小时前AI 评分54

实测 Apple 端侧 Foundation Model:分类任务 45/49,但易被注入指令带偏

实测 Apple 端侧模型:分类表现佳但易被注入指令带偏

AI 导读

NellWatson 用 SCADA 事件路由任务实测 Apple 端侧 Foundation Model,在 49 条留出样本上取得 45/49,把它当作可免费使用的本地替代方案。该模型分类表现不错,却容易被植入指令带偏。作者后续发现,在输入里加一行队列描述这一技巧,既能提升小模型的准确率,也能明显增强 Jev 1.14 对植入指令的抵抗力,使其被植入答案带偏的比率从 7/20 降到 1/20。

来源:AGI Hunt · agihunt.info