OASIS为注意力双层路由加入显式null选项

西北大学、伊利诺伊理工学院、罗格斯大学等机构的研究团队提出 OASIS 方法，为 AttnResidual 的 token 层与 depth 层路由同时加入显式 null 选项，并用 token 层的 null 概率协调 depth 层的分支选择。该论文已被 NeurIPS 2026 接收。 据新智元报道，这一设计旨在改善长上下文与低比特场景下的鲁棒性。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。