元认知解码降低扩散语言模型智能体推理FLOPs

2026年10月28日，arXiv cs.CL 上的一项工作提出“元认知解码”（Metacognitive Decoding），用于扩散语言模型智能体的高效推理。该方法引入一个轻量元认知控制器来引导扩散语言模型的生成：它学习何时定稿 token、生成应延伸多远，从而压低单次响应的整体计算量。控制器作为扩散主干网络的插件，在智能体轨迹上训练，以在正确性与生成成本之间取得平衡。论文报告称，在五个 benchmark 上，相比最高效基线平均减少 20.6% 推理 FLOPs，同时保持有竞争力的任务准确率。目前该结果来自论文自述实验，暂未见其他来源的独立复现或产业落地报道。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。