AI 推理正走向异构分解：Prefill 与 Decode 分用专用芯片

AI 推理正从单一 GPU 集群转向异构分解推理：Prefill 阶段计算受限、Decode 阶段内存带宽受限，让 H100/B200 同时承担两个阶段效率低下，业界开始把推理流水线拆分到各司其职的专用芯片上。分解推理同样不只是架构问题，也是运维问题，实际交付性能不再只看 tokens/s 和每 token 成本这两个常见指标。