AWS 在 SageMaker 上介绍 MoE 模型 kernel 优化
热点事件持续更新
AWS 在 SageMaker 上介绍 MoE 模型 kernel 优化
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
AWS 在 Amazon SageMaker AI 上介绍了针对混合专家（MoE）模型的 kernel 工程优化，包括 Swap-AB 与后端路由两项技术。 Swap-AB 通过在 PTX 汇编层前翻转矩阵乘法，使 Hopper 架构的 Tensor Core 达到最大局部密度并激活异步预取。AWS 称，这在 H200 上使大规模 MoE 模型端到端输出吞吐提升 2–4%。
AI 根据报道生成 · 3 小时前更新
最新进展10月13日 23:17
在 Amazon SageMaker AI 中对混合专家（MoE）模型进行 kernel 工程优化报道时间线
沿着报道，了解事件的不同侧面。
10月13日
- AWS Machine Learning Blog在 Amazon SageMaker AI 中对混合专家（MoE）模型进行 kernel 工程优化
AWS 在 Amazon SageMaker AI 上介绍针对混合专家（MoE）模型的 kernel 工程优化，包括 Swap-AB 与后端路由两项技术。Swap-AB 通过在 PTX 汇编层前翻转矩阵乘法，使 Hopper 架构的 Tensor Core 达到最大局部密度并激活异步预取，在 H200 上的大规模 MoE 模型端到端输出吞吐提升 2–4%。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 1010月14日 00:00
- 近 24 小时变化
- –
02.557.510
10月14日01:0002:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。