跳到正文
Hugging Face Blog·· 21 小时前精选AI 评分71

Hugging Face 发布 TorchNeuron 原生后端,在 AWS Trainium 上跑模型更简单

TorchNeuron: running HF models on AWS Trainium is easier than ever

AI 导读

Hugging Face 推出面向 AWS Trainium 的 PyTorch 原生后端 TorchNeuron,10 月 20 日起作为公测版可用,可通过 pip install torch-neuronx 安装。

推荐理由

官方给出能力变化和可直接复用的训练、推理代码,读者可据此在 AWS Trainium 上跑 Hugging Face 模型。

来源:Hugging Face Blog · huggingface.co