术语slug: mxfp8

MXFP8

8 位微缩放浮点格式,推理显存占用高于 NVFP4 但评测略优

收录情报动态

共 1 篇 · 第 1/1 页
Rohan Paul (@rohanpaul_ai)T2·基座大模型
78 分
Thinking Machines 开源 594B 参数 4-bit 训练模型

Thinking Machines Lab 兑现承诺,以 Apache 2.0 协议开源 Inkling 2 Small,这是一个 594B 参数、从预训练第一步到最终 RL rollout 全程采用原生 4-bit 前向传播训练的模型。4-bit 训练使预训练时间缩短 8%、RL 时间缩短 20%,仅带来约 2% 的效率损失,且发布的 4-bit checkpoint 无需额外校准。