AGI Hunt· Stunning-Sherbet1853·· 4 小时前AI 评分53
开发者拆解本地 agent 幻觉拦截方案:4B 小模型谎称已保存文件却未调用工具
模型谎称「已保存文件」却没调工具,开发者拆解 agent 幻觉行动的拦截方案
AI 导读
一位开发本地 Windows agent 的作者发现,4B 小模型会回复「已保存到某路径」,但文件写入工具从未被调用,根因是意图路由不识别「give/pass/send 加文件格式」类表述,且无工具路径上没有任何校验机制。
来源:AGI Hunt · agihunt.info