跳到正文
NVIDIA Blog· Amr Elmeleegy·· 3 小时前AI 评分35

全栈协同设计如何榨干每字节:NVIDIA 破解 AI 内存难题

More Performance From Every Byte: How Full-Stack Codesign Solves AI’s Memory Challenge

AI 导读

NVIDIA 通过全栈协同设计,在 GPU、CPU、网络、存储和软件各层提升内存利用效率,从 Blackwell Ultra 到 Vera Rubin 平台,每 GPU 的 HBM 容量提升约 3%,SemiAnalysis AgentX 上智能体吞吐量每美元最高提升 30x。

来源:NVIDIA Blog · blogs.nvidia.com