跳到正文
原文
AGI Hunt· Dany0·· 1 天前AI 评分40

问一句「你怎么看」竟被 Anthropic Opus 当作蒸馏攻击拒绝

问一句"你怎么看"竟被 Opus 当作蒸馏攻击拒绝

AI 导读

Reddit 用户 Dany0 发帖称,自己仅向 Anthropic Opus 提问「你对此有什么看法?」,就被安全护栏判定为「蒸馏攻击」(distillation attack)而拒绝回答,并附有截图。帖子以 LocalLLaMA 社区的调侃口吻追问「Opus 5.5 的数据集在哪」,借机讽刺当前前沿模型安全护栏过紧、正常提问动辄被拦截。

来源:AGI Hunt · agihunt.info