InfoQ 中文T2·78 分
StartLux 开源 Prism 推理引擎 单卡提速最高 5.3 倍
原标题：决策模型也有专用推理引擎了：StartLux 开源 Prism，单卡最高提速 5.3 倍
- Prism 在短问题和共享上下文场景中相比 vLLM 实现最高 5.3 倍加速，但在高并发吞吐场景提升有限。
- 支持张量并行（TP）和数据并行（DP）组合部署，兼顾低延迟与高吞吐量需求。
- 提供强确定性输出，相同请求在不同并发和硬件配置下可得到逐位一致的结果，准确率与 BF16 原始精度基本持平。
返回热点榜
opensource热度 11.6°
AI 聚合热点事件 · 2026/10/23
StartLux 开源 Prism 推理引擎 单卡提速最高 5.3 倍
1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/10/23 12:23:35
全景综述与最新动态
1 家信源交叉印证StartLux 发布专为决策模型优化的开源推理引擎 Prism，在 H200 单卡上实现最高 5.3 倍于 vLLM 的加速。该引擎支持 TP/DP 混合并行与确定性输出，准确率保持 BF16 水平，标志着国产大模型技术栈向专用推理系统纵深演进。
最新动向/StartLux 发布专为决策模型优化的开源推理引擎 Prism，在 H200 单卡上实现最高 5.3 倍于 vLLM 的加速。该引擎支持 TP/DP 混合并行与确定性输出，准确率保持 BF16 水平，标志着国产大模型技术栈向专用推理系统纵深演进。
热度曲线逐小时热度走势
2 个完整观测小时连续完整观测不足 3 个小时，暂不绘制趋势曲线。