分离式推理不只是省 token 成本，更是运营问题

分离式推理的实际交付性能越来越取决于运营层面的编排，而非只看 tokens per second 和每 token 成本。随着推理架构日益异构化，prefill 与 decode 节点的调度、负载在异构硬件间的分配成为关键，工程团队需像运维传统大规模服务一样，对推理集群做容量规划、故障处理与性能监控。