跳到正文
MIT Technology Review · AI· Tim Rausch·· 4 小时前AI 评分24

AI 推理的隐藏存储账单:每次推理都会留下数据尾巴

AI’s hidden storage bill: What inference leaves behind

AI 导读

AI 推理会持续留下后端数据,成为常被忽视的隐性存储成本。西部数据(WD)内部测试显示,一个 8 秒视频(用户收到 3.97MB 720p 文件)背后留下逾 500MB 数据,是输出文件的 130 倍。麦肯锡预测 AI 推理需求到 2030 年将以 35% 的年复合增长率增长,占数据中心总需求的 40% 以上。

来源:MIT Technology Review · AI · technologyreview.com