Rohan Paul (@rohanpaul_ai)T2·72 分
DeepSeek-V4.1-Flash 在 4 张 AMD MI355X 上实现 1129 tokens/s
原标题:Sciforium shows DeepSeek-V4.1-Flash reaching 1,129 output tokens/sec at P90 on 4 AMD Instinct MI355X...
- 4 张 AMD MI355X 上 P90 输出吞吐达 1129 tokens/s,保留原始权重不改模型
- 核心增益来自按客户流量调优的投机解码 Drafter,草稿长度可提至 7 token
- 算子融合与 all-reduce 计算重叠等内核优化共同贡献性能提升