NVIDIA Blog· Dion Harris·· 2 小时前精选AI 评分67
NVIDIA GPU 如何加速 OpenAI GPT-6 Astra Ultrafast
How NVIDIA GPUs Help Accelerate OpenAI’s GPT-6 Astra Ultrafast
AI 导读
GPT-6 Astra Ultrafast 已在 OpenAI API 上线,并向符合条件的 ChatGPT Work 和 Codex 用户开放,运行在 NVIDIA Blackwell GPU 上,token 生成速度最高比 Astra Standard 模式快 8x。
推荐理由
Ultrafast 相对标准模式最高 8x 的 token 生成提速,可看推理优化如何作用于智能体的工具调用循环。
来源:NVIDIA Blog · blogs.nvidia.com