跳到正文
原文
arXiv cs.CL· Samarth Varshney, Ritu Yadav·· 4 小时前AI 评分47

StateWise:让语言模型追踪并遵守多轮对话中不断变化的约束

StateWise: Teaching Language Models to Track and Obey Evolving Constraints in Multi-Turn Dialogue

AI 导读

StateWise 用自我改进训练让单个 LLM 维护带 tombstone 的可修订约束状态,从而在多轮对话中持续遵守有效约束、不再执行已撤销约束。方法先微调模型做约束状态摘要与按状态回复,再用通过精确往返校验的自生成轨迹自训练,并加入针对约束"复发"(relapse)的偏好阶段。

来源:arXiv cs.CL · arxiv.org