跳到正文
原文
AWS Machine Learning Blog· Ashvin Nihalani·· 5 天前AI 评分32

如何借助 EFA 和 DeepEP 在 Amazon EKS 上扩展 MoE 强化学习,提升 40% 吞吐量

Scaling MoE reinforcement learning on Amazon EKS with EFA and DeepEP with 40% more throughput

AI 导读

AWS 展示了结合 Amazon EKS、EFA 与 DeepEP 的 MoE 强化学习扩展架构,吞吐量提升 40%。该架构通过 Amazon EKS 编排大规模训练,并以 DeepEP 优化 EFA 上的专家并行通信,协调 rollout 生成与策略训练,缓解跨节点通信瓶颈。

来源:AWS Machine Learning Blog · aws.amazon.com