跳到正文
热点事件持续更新

Liquid Inference 日均服务百亿 token

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

2026 年 10 月 28 日,Brett Harrison 披露推理平台 Liquid Inference 的运营数据:日均服务 100 亿 token,周增速达 200%,流量以 agent 和长对话为主。在 47 万次计费任务中,88.7% 的输入 token 是缓存读取。平台在对报价排序时,不看标价,而是按包含缓存命中率的预期实际费用排序,并优先把会话路由到仍保有该前缀缓存的供应商,使这部分输入按缓存读费率计费。

AI 根据报道生成 · 48 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. AGI Hunt
    Liquid Inference 日均服务 100 亿 token,88.7% 输入 token 为缓存读取

    Brett Harrison 披露 Liquid Inference 推理平台日均服务 100 亿 token,周增速 200%,流量以 agent 和长对话为主。在 47 万次计费任务中,88.7% 的输入 token 是缓存读取。平台按包含缓存命中率的预期实际费用而非标价对报价排序,优先把会话路由到仍保有该前缀缓存的供应商,从而以缓存读费率计费。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。