跳到正文
热点事件持续更新

Google发布TPU版SGLang,Meta确认生产使用

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Google 于 10 月 20 日在开发者博客发布 TPU 版 SGLang 推理引擎,让这一原本主要面向 GPU 的推理框架可在 Google TPU 上运行。 Meta 的 PyTorch-TPU 负责人 Zongwei Zhou 随后确认,SGLang-TorchTPU 已在 Meta 生产环境中运行。据其说法,这是 Meta 使用 Google TPU 跑 AI 推理的唯一一手确认。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月21日
  1. X · 宝玉
    Meta 工程师确认:Meta 已在生产环境用 Google TPU 跑 AI 推理

    Meta 的 PyTorch-TPU 负责人 Zongwei Zhou 确认,SGLang-TorchTPU 已在 Meta 生产环境中运行,这是 Meta 使用 Google TPU 跑 AI 推理的唯一一手确认。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。