Luminal 推理云日处理 2.3 万亿 token，将向公众开放

Luminal（由 Joe Fioti 创立）的私有专有部署增长极快，现开始向公众开放云服务，目前每天处理约 2.3 万亿 token。该服务使用 Luminal 编译的推理栈，目标是达到每天数千万亿（quadrillion）token。同时被引用的 Liquid Inference 路由网络称已有 28 家经认证公司接入、服务超 1000 个模型，供应商接入模型平均仅需 3 小时。