天数智芯公布天垓 300 实测数据：部分推理场景达 H200 水平

10 月 28 日，天数智芯首次开放天垓 300 通用 GPU 实机演示，展示基于天垓 300 的 AFD 分离方案、IXL144 超节点、天数智算软件栈及彤央端侧算力终端，并预告下一代端侧产品 TY2000，标称算力达 600T。

据天数智芯披露的第三方测试结果，在典型 PD 分离部署下，天垓 300 折算单卡端到端吞吐达到 NVIDIA H200 的 1.05 倍。公司内部测试显示，该产品在部分长上下文、混合专家模型（MoE）和在线推荐场景中也取得了相应的性能表现。端侧方面，彤央 TY1200 在指定大模型测试中的性能达到 NVIDIA Thor T5000 的 1.2 倍。

天垓 300：部分推理场景达到 H200 水平

据天数智芯介绍，第三方机构针对四种主流模型、三类应用场景进行了测试。在典型 PD 分离部署下，天垓 300 折算单卡端到端吞吐达到 H200 的 1.05 倍。PD 分离将大模型推理中的预填充（Prefill）和解码（Decode）阶段分开部署，实际性能取决于模型、并发规模、计算与通信开销等因素，因此这一结果对应特定测试条件，不代表所有任务中的性能表现。

天数智芯性能实验室公布的内部测试数据显示，在 64K 长上下文场景中，天垓 300 的 Attention 性能达到 H200 的 1.05 倍；在 GLM-5.3 模型的 64K 上下文测试中，满足相同用户体验要求时，MoE 吞吐达到 H200 的 1.15 倍。在 8K 至 128K 长上下文场景中，Agent 首字延迟较 H200 降低约 10%至 30%；多模态生成推理吞吐提升约 2%至 5%。在搜索、广告和推荐等在线业务中，推荐推理吞吐提升 21%，轻量计算时延降低 26%。

训练方面，在基于 Qwen3-32B 模型的 8 卡整机 FP8 精度训练测试中，天数智芯测得天垓 300 单卡有效吞吐达到 H100 的 1.33 倍。

公司还对强化学习（RL）训练进行了工程估算：以 1024 张卡对已有预训练基座开展强化学习，在激活参数为 40B 的中心情景下，完成约 1T 总参数的 MoE 模型、生成 Token 规模为 500 亿的任务，预计需要约 26 天。该数据基于特定工程假设，实际耗时还取决于模型结构、训练配置、并行策略和计算利用率。

Token 工厂与异构计算：关注吞吐、稳定性和部署成本

大模型推理规模扩大后，算力系统的评价指标逐渐从单次性能扩展至持续吞吐、运行稳定性和单位 Token 成本。天数智芯披露，天垓 300 满负荷运行时的步时波动为 0.43%，低于其对比的 Hopper 方案的 0.76%。该数据反映特定测试条件下的运行波动，仍需结合测试时长、负载和硬件配置评估。

在软件生态方面，天数智芯称，天垓 300 原生支持 CUDA 语义，主流框架已完成适配，并提供从加速卡、服务器到超节点的部署方案。公司同时展示了支持混合训练、PD 分离和 AFD 分离的异构计算架构，可与其他厂商的加速卡及专用芯片协同工作。

AFD 分离方案将不同计算任务分配给不同芯片。按照天数智芯公布的架构，天垓 300 负责 Prefill 阶段的全流程计算，以及 Decode 阶段的 Attention 计算；合作厂商的 XPU 负责 FFN 专家网络。公司称，该方案已完成实际部署测试，Decode 推理延迟降低 60%，并将其称为国内首个基于 GPU 与 XPU 异构部署的 AFD 分离方案。

天数智芯 AI 与加速计算负责人单天逸表示：“未来的 AI 算力系统，不一定由一种芯片包打天下。关键是如何把它们高效组织起来，让整个系统发挥更大的价值。我们希望通过开放的异构计算能力，让客户充分利用已有算力资产，以更灵活的方式构建适合自身业务的计算系统。”

在大规模部署方面，天数智芯展示了 IXL144 超节点。该方案在单个标准机柜内集成 144 颗 GPU，聚合显存约 10.1TB。公司测算，其每百万有效 Token 成本较国际主流方案降低约 40%，但公开材料未完整披露对标方案及成本核算条件。

IXL144 采用新一代点对点（P2P）互联引擎，面向 Scale-up 和 Scale-out 扩展，目标是将域内单次传输延迟从 3 至 5 微秒降至 1 微秒；同时支持统一内存语义编程和大规模专家并行（EP），将专家权重分散至更多计算核心。天数智芯表示，面向不同算力规模和机房条件的其他超节点方案也将陆续推出。

除大模型训练和推理外，天垓 300 还支持 Boltz-2、OpenFold3、Protenix 等模型，以及 Newton、Warp、ALCHEMI 等框架，应用覆盖生命科学、物理 AI、化学和材料等领域，包括蛋白质结构预测、药物筛选、机器人仿真、分子动力学和材料结构优化。其中，物理 AI 需要通过仿真反复验证机器人动作和控制策略。云端 GPU 可以承担大规模并行仿真与训练，为机器人部署前的策略验证提供计算支持。

用 AI 开发 AI：Agent 参与模型部署与 GPU 调优

随着新模型持续迭代，环境配置、模型部署、性能分析、算子调优和编译测试等工作，仍需要大量工程投入。天数智芯此次展示的天数智算软件栈，将部分工具和工程经验封装为 Agent 可调用的技能，让 AI 参与开发与优化流程。

在模型部署方面，AI 可协助完成环境安装、配置检查和服务部署。根据公司披露的 PD 分离部署测试，相关流程耗时从约 1 小时缩短至 10 分钟，人工操作步骤从数十步减少至 1 步。

在性能调优方面，软件栈结合自研性能分析工具，根据实际运行数据定位瓶颈、提出优化方案，再通过测试验证效果。天数智芯称，在某大模型调优任务中，工作周期从 7 天缩短至 2 小时以内；在相同硬件、模型和精度要求下，运行性能较优化前接近翻倍。

在代码开发方面，天数智芯展示了 Agent 与 FlyDSL 协同的流程。开发者给出目标和约束后，AI 参与代码生成、编译、测试与性能优化，并根据正确性检查和性能测试结果迭代修改。

公司称，在某主流模型适配与调优任务中，原本需要 10 人天的工作缩短至 1 人、小时级完成，编译速度提升 90%以上。在理想状态下，系统可用原来 1%的编译时间达到 99%的运行性能。上述结果来自特定任务测试，实际效果取决于任务类型、工具覆盖范围和验证机制。

天数智芯副总裁石加圣表示：“Agentic AI 让一位工程师的经验，能够持续服务千千万万开发者。”公司希望将 GPGPU 工程师在模型适配和性能调优中积累的方法沉淀为可调用的工具与技能，供模型和应用开发者在工作流中复用。

彤央 TY1200：端侧大模型延伸至视频生成与物理 AI

天数智芯将云端积累的模型压缩、量化、蒸馏及软硬协同能力延伸至端侧，并配套通用 GPU 架构、编译器、算子库和性能工具。其目标是支持模型在云端训练、本地部署，并在需要时由云端承担更复杂的分析任务。

天数智芯彤央产品市场负责人宋远盈表示：“云端 GPU 厂商做端侧，不是把芯片做小，而是把能力下沉。”

此次展示的彤央 TY1200 标称稠密算力为 300 TOPS。天数智芯称，在 Qwen3.8-27B、Qwen3.6-35B-A3B 等模型测试中，TY1200 的性能达到 NVIDIA Thor T5000 的 1.2 倍。公开材料未完整披露相关测试的硬件配置、精度、并发量和评价指标，因此该结果仍需结合具体测试条件理解。

在本地应用方面，TY1200 可用于合同审核、投资商业计划书分析等涉及敏感数据的任务，减少对云端调用的依赖。视频生成测试中，该设备运行开源视频模型 MiniMax H3，平均约 6 分钟可生成一段 1056×608 分辨率、时长 5 秒的视频；在 1376×768 分辨率下，平均耗时约 11 分钟。任务在本地完成，不产生云端模型调用费用，但设备采购、功耗和运维仍构成实际使用成本。

在物理 AI 方面，TY1200 支持基于 MuJoCo-Warp 的 GPU 加速物理仿真，可在本地开展机器人动作学习所需的并行仿真。现场演示包括 MicroDuck 的本地仿真、策略训练和动作验证，以及搭载 TY1000 算力模组的机器狗进行人脸识别和跟随。

天数智芯还公布了 TY1200 的世界模型测试结果：在 Cosmos-R2-2B 和 Cosmos-R2-8B 测试中，其性能分别达到 Thor T5000 的 158%和 180%。相关结果对应指定模型和测试条件，不能直接外推至所有物理 AI 任务。

此外，在储能电芯研究中，TY1200 支持科研智能体采集、治理实验数据，并在约 2 分钟内生成报告；在应急视觉识别中，端侧计算机视觉（CV）模型与多模态大模型交叉验证后，识别准确率由 70%提升至 95%；在文旅场景中，同一设备可在白天提供智能导览、夜间训练 CV 小模型。搭载 TY1200 的陪诊机器人已在上海市阳光康复中心为视障人士提供导诊、分诊和引导服务。

天数智芯还预告下一代端侧产品彤央 TY2000，标称算力将达到 600T，暂未公布具体配置、功耗、上市时间和价格。