开发者拆解 agent 谎称已调用工具的拦截方案

2026年10月14日，AGI Hunt 报道，一位开发本地 Windows agent 的开发者披露其 agent 的幻觉问题：4B 小模型会回复「已保存到某路径」，但实际上文件写入工具从未被调用。开发者定位到两个根因：一是意图路由不识别「give/pass/send 加文件格式」这类表述，请求因此没有被正确路由到工具调用；二是在没有工具可走的路径上，整个流程没有任何校验机制，模型的口头承诺被直接当作执行结果返回。报道以「开发者拆解本地 agent 幻觉拦截方案」为题，围绕这一案例说明幻觉为何能被一路放行。截至该报道，尚无关于该拦截方案具体实现、验证结果或上线情况的信息。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。