跳到正文
原文
NVIDIA Blog· Vishal Ganeriwala·· 15 天前AI 评分51

从兆瓦到 token:NVIDIA 如何用 DSX 提高 AI 工厂产出

From Megawatts to Tokens: How NVIDIA Maximizes AI Factory Production

AI 导读

NVIDIA 介绍了 DSX 如何通过动态功率分配与整厂优化提高 AI 工厂产出,Lambda 的部署验证显示同一功率预算下 token 吞吐量提升 24%。在 HGX B200 集群上,DSX MaxLPS 让 19 个节点使用相当于 16 个全功率节点的预算,每瓦性能提升 23%。

来源:NVIDIA Blog · blogs.nvidia.com