跳到正文
热点事件持续更新

实测:Agent 框架缓存未命中率相差 7 倍,单请求能耗翻倍

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026 年 10 月 25 日,AGI Hunt 报道,Neuralwatt Cloud 在分析一个月生产流量后发现,调用模型的 agent harness 对推理能耗影响显著。实测中,不同 harness 的缓存未命中率相差约 7 倍:deepseek-harness 的缓存未命中率仅 1.6%,而 Node.js 应用高达 11.1%。报道称,缓存未命中会使单请求能耗翻倍;缓存率为 92% 与 97% 时,对应的 prefill 工作量相差约 2.7 倍。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月25日
  1. AGI Hunt
    实测:agent harness 缓存未命中率相差约 7 倍,缓存未中使单请求能耗翻倍

    Neuralwatt Cloud 分析一个月生产流量后发现,调用模型的 agent harness 对推理能耗影响显著:deepseek-harness 缓存未命中率仅 1.6%,Node.js 应用高达 11.1%,92% 与 97% 的缓存率对应 prefill 工作量相差约 2.7 倍。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。