Luma AI 提出打包多模态掩码精确序列并行
热点事件持续更新
Luma AI 提出打包多模态掩码精确序列并行
2 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Luma AI 提出一种面向打包多模态掩码的精确序列并行方法：逐层在 ring attention、稀疏 all-to-all 与 Ulysses 之间选择，数值结果与单 GPU 一致。在最多 128 张 H100 上，该方法在 48 个用例中的 47 个优于 FlashMask + Ulysses 混合方案。 Luma AI 称，其相对 FlashMask + Ulysses 的加速比随规模扩大而提升：32 GPU 下中位数为 1.28×，128 GPU 下达到 2.63×。完整技术细节已发布于其博客。
AI 根据报道生成 · 3 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
10月20日
- X · Luma AILuma AI：随规模扩展优势扩大，32 GPU 下较 FlashMask + Ulysses 中位数提速 1.28×，128 GPU 下达 2.63×
Luma AI 公布其方案相对 FlashMask + Ulysses 的加速比随规模扩大而提升：32 GPU 下中位数为 1.28×，128 GPU 下达到 2.63×。完整技术细节已发布于其博客。
- X · Luma AILuma AI 提出面向打包多模态掩码的精确序列并行，在 128 张 H100 上 48 个用例中 47 胜 FlashMask + Ulysses 混合方案
Luma AI 提出一种面向打包多模态掩码的精确序列并行方法，逐层在 ring attention、稀疏 all-to-all 与 Ulysses 之间选择，数值结果与单 GPU 一致。在最多 128 张 H100 上，该方法在 48 个用例中的 47 个优于 FlashMask + Ulysses 混合方案。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。