InfoQ 中文T2·78 分
Qwen 团队发布 FlashQLA 优化线性注意力 GPU 算子
原标题:面向 Qwen 系列模型线性注意力的高性能优化实践
- FlashQLA 是面向 GDN 线性注意力的专用 GPU 算子库,旨在突破传统 softmax 注意力 O(N²) 的计算瓶颈。
- 核心技术包括硬件友好的代数改写、序列维度分块以及 warp specialization 协同优化。
- 利用滑动窗口性质复用显著降低显存带宽压力,在主流 GPU 架构上提供开箱即用的官方后端支持。
AI 聚合热点事件 · 2026/10/22
阿里巴巴 Qwen 团队推出 FlashQLA,专为 GDN 线性注意力设计的高性能 GPU 算子库。该工具通过硬件友好代数改写与序列并行优化,解决长序列下的访存冗余与 SFU 过载问题,在 Hopper/Blackwell 架构上实现前向与反向加速 2-3 倍。
原标题:面向 Qwen 系列模型线性注意力的高性能优化实践