INT21 用 AI 一小时为 Drama 3 生成 Rust 推理运行时,吞吐提升 63%

INT21 团队用 AI 在 1 小时内为 Fish Audio 开源的 Drama 3 语音生成模型写出 Rust 推理运行时。相比 SGLang-Omni 的 Day 0 支持,首音频延迟降低 38-60%(Hello 场景 15.11ms vs 37.79ms),音频生成吞吐提升 59-63%。测试环境为每运行时 2× NVIDIA B200,单语音流、1-frame 首 chunk。