Hugging Face Blog·· 22 小时前AI 评分20
TorchNeuron:在 AWS Trainium 上运行 HF 模型更简单了
TorchNeuron: running HF models on AWS Trainium is easier than ever
AI 导读
Hugging Face 推出 PyTorch 插件 TorchNeuron,为 AWS Trainium 提供原生后端,支持 eager 模式、torch.compile 及 FSDP、TP 等分布式 API,10 月 20 日起开放公开测试,可通过 pip install torch-neuronx 安装。
来源:Hugging Face Blog · huggingface.co