AGI Hunt· irinarish·· 3 小时前AI 评分42
CATCH 对抗训练:仅约 200 例样本让 LLM 学会可迁移的诚实行为
AI 导读
论文提出 CATCH 持续对抗训练方法,仅用约 200 个自报告场景样本即让 LLM 学会可迁移的诚实行为。该方法在 prompt 嵌入被扰动到「说谎概率最大」时仍把模型推向诚实回答,并用 utility 数据保持能力,已在 Llama-3.3-70B-Instruct 与 Qwen3-3.6-27B 上验证。
来源:AGI Hunt · agihunt.info