NVIDIA Blog· Dion Harris·· 2 小时前精选AI 评分73
NVIDIA GPU 如何加速 OpenAI 的 GPT-6 Astra Ultrafast
How NVIDIA GPUs Help Accelerate OpenAI’s GPT-6 Astra Ultrafast
AI 导读
OpenAI 利用模型优化 NVIDIA Blackwell GPU 上的推理软件,使 GPT-6 Astra Ultrafast 的 token 生成速度最高达到 Astra Standard 模式的 8 倍。
推荐理由
将生成提速放进编码智能体反复调用工具的工作流中理解,有助于判断单次响应延迟如何影响编辑、测试与调试的整体节奏。
来源:NVIDIA Blog · blogs.nvidia.com