Cerebras 披露万亿参数模型跨晶圆部署方法

Cerebras 发布技术博客，说明如何把万亿参数级大模型拆分到多块 WSE-3T 晶圆级芯片上运行。其以约 3 万亿参数的 Kimi K3 为例，按层切分到 59 块晶圆，称可实现 1000–2000+ tokens/s 的推理速度。 按 Cerebras 的说法，每块晶圆有 44 GB 片上内存，单层约 16 GB，因此模型权重常驻片上，只有激活值通过 RDMA over Ethernet 在晶圆间传递，每跳约 2 微秒。上述速度与部署效果均为 Cerebras 自述，尚未见独立验证。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。