Hugging Face Blog·· 21 小时前精选AI 评分71
Hugging Face 发布 TorchNeuron 原生后端,在 AWS Trainium 上跑模型更简单
TorchNeuron: running HF models on AWS Trainium is easier than ever
AI 导读
Hugging Face 推出面向 AWS Trainium 的 PyTorch 原生后端 TorchNeuron,10 月 20 日起作为公测版可用,可通过 pip install torch-neuronx 安装。
推荐理由
官方给出能力变化和可直接复用的训练、推理代码,读者可据此在 AWS Trainium 上跑 Hugging Face 模型。
来源:Hugging Face Blog · huggingface.co