使用 Amazon SageMaker HyperPod 和 Qumulo 进行跨区域训练

Amazon SageMaker HyperPod 与 Qumulo 的跨区域训练方案经验证，预热后可达到数据同区域训练的吞吐量。测试使用 LLaMA v3，在 60 ms 网络延迟下，吞吐量于前 100–150 批次内收敛至 115–117 samples/sec。方案通过预测缓存读取远端数据，无需完整复制数据集或修改代码。