跳到正文
原文
NVIDIA Blog· Dion Harris·· 2 小时前精选AI 评分73

NVIDIA GPU 如何加速 OpenAI 的 GPT-6 Astra Ultrafast

How NVIDIA GPUs Help Accelerate OpenAI’s GPT-6 Astra Ultrafast

AI 导读

OpenAI 利用模型优化 NVIDIA Blackwell GPU 上的推理软件,使 GPT-6 Astra Ultrafast 的 token 生成速度最高达到 Astra Standard 模式的 8 倍。

推荐理由

将生成提速放进编码智能体反复调用工具的工作流中理解,有助于判断单次响应延迟如何影响编辑、测试与调试的整体节奏。

来源:NVIDIA Blog · blogs.nvidia.com