Deepgram 如何在 AWS Trainium 上优化大规模语音 AI

Deepgram 将 Nova-3 语音转文本模型移植到 AWS Trainium2，离线批处理每美元处理的音频量比原有算力方案多 11%–70%。该配置在单个 Amazon EC2 trn2.3xlarge 实例上运行八个模型副本，通过 TorchNeuron、NKILib 融合核与 Neuron Explorer、NAD 工具链进行内核级调优。