IT之家 · 智能时代 · 2026/10/15 11:22:04
阶跃 Step 5 Preview 开源：600B MoE 架构支持百万上下文，专为长程 Agent 任务优化
出处作者 / 发布主体：IT之家
86AI 研判分
核心综述
阶跃星辰正式开源 Step 5 Preview 模型权重，该模型采用总参数 600B、激活参数 27B 的稀疏 MoE 架构，原生支持文本与视觉输入及 100 万 token 超长上下文。通过引入 92 层窄深架构、Sparse GQA 块级索引及面向长程任务的强化学习策略，显著降低计算开销并提升多跳推理稳定性，目前已在 OpenRouter 调用量榜单位居全球第二。
报道全文原始报道全文
据官方介绍，Step 5 Preview 面向长程 Agent 任务而设计，采用稀疏 MoE 架构，总参数量 600B、每 token 激活参数仅 27B，支持 100 万 token 上下文窗口，原生支持文本与视觉输入，在 AI 编程、软件工程、专业知识工作和金融等场景表现突出。近期，Step 5 Preview 在 OpenRouter 周调用量、日调用量榜单中均位居全球第二。
目前，模型权重已上线 Hugging Face 和 ModelScope，并提供面向多种芯片平台和推理框架的适配支持。开发者可以通过 vLLM 或 SGLang 部署兼容 OpenAI 接口的 API 服务，也可以使用 Transformers 进行离线推理，将模型接入自己的数据、工具和系统，构建智能体、应用、工作流与服务。
IT之家注意到，官方同步公开的技术博客，介绍了 Step 5 Preview 如何通过架构与训练的协同优化，支持更长、更复杂的 Agent 任务。关键设计包括：
- 92 层窄深架构：为隐式多跳推理提供更深的计算路径，同时控制参数规模与计算成本。
- Sparse GQA：通过块级索引与稀疏计算合并，降低百万 token 上下文的计算开销。其中，8 token 块级索引可将索引与 top-k 选择开销降至原来的 1/8。
- 更稳定的训练：在关键状态与参数上保留 FP32 精度，结合细粒度梯度裁剪，缓解深层网络中的激活异常增长与梯度尖峰。
- 百万级可验证环境：覆盖软件工程、科学推理、机器学习研发和专业知识工作，并持续校准任务难度、多样性与评估可靠性。
- 面向长程任务的强化学习：将上下文压缩纳入端到端策略训练，让 Agent 学习整理任务状态、继续执行；结合更精细的奖励归因，提升长轨迹的学习效果。