跳到正文
热点事件持续更新

Hugging Face 推出 TorchNeuron 支持 AWS Trainium

1 篇报道1 个报道来源21 小时前更新

先了解这件事

AI 综述

Hugging Face 发布 PyTorch 插件 TorchNeuron,为 AWS Trainium 提供原生后端,并已集成到 Transformers、Diffusers 和 Kernels 中,支持 eager 模式、torch.compile 以及 FSDP、TP 等分布式 API。该插件自 2026 年 10 月 20 日起进入公开测试,开发者可通过 pip install torch-neuronx 安装。 Hugging Face 建议 Neuron 用户今后直接使用这些库,而不再经由 Optimum Neuron。目前 Transformers 内置的异步权重加载在 Neuron 上不受支持,需通过设置 HF_DEACTIVATE_ASYNC_LOAD=1 将其关闭。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月19日
  1. Hugging Face Blog
    TorchNeuron:在 AWS Trainium 上运行 HF 模型更简单了

    Hugging Face 推出 PyTorch 插件 TorchNeuron,为 AWS Trainium 提供原生后端,支持 eager 模式、torch.compile 及 FSDP、TP 等分布式 API,10 月 20 日起开放公开测试,可通过 pip install torch-neuronx 安装。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。