arXiv cs.CL· Minming Ye, Min Liu, Haoang Chi, Ciheng Wu, Naiyang Guan·· 3 小时前AI 评分35
从观察到干预:通过可执行因果干预蒸馏自生成的上下文演示
From Observation to Intervention: Distilling Self-Generated In-Context Demonstrations via Executable Causal Intervention
AI 导读
ECI2D 将语言 rationale 抽象为可执行程序,对逻辑相似样本施加 do-算子因果干预,只保留具备迁移不变性的自生成 ICL 演示,以避开观察式筛选的观测等价问题。在数学、逻辑与常识推理基准上,它稳定优于基于观察的 ICL,且保留的演示数量远更少,测试分布偏移时提升超过 7 分。
来源:arXiv cs.CL · arxiv.org