Thinking Machines 发布 Inkling 2 Mini,一款总参数 26B、激活参数 5.4B 的混合专家模型,采用循环层(looped transformer)架构,以 Apache 2.0 协议开源,支持文本与图像输入及 100 万 token 上下文。它在 Artificial Analysis 智能指数上取得 20 分,与 Qwen3.8 27B、Nanbeige4.3-33B 持平,但激活参数分别少约 5 倍和 6 倍,处于智能与参数规模的帕累托前沿,且小到可在 MacBook 或 DGX Spark 上本地运行。
Thinking Machines
前沿 AI 研究与模型公司,专注新型模型架构与推理系统研发,推出 Inkling 系列模型。
收录情报动态
Thinking Machines 发布 Inkling 2 Mini,这是一款总参数 26B、激活参数 5.4B 的循环 Transformer 混合专家模型,在 Artificial Analysis 智能指数上得分 20,处于智能与激活参数权衡的帕累托前沿。模型采用 Apache 2.0 许可,支持文本与图像输入及 1M token 上下文,体积小到可在 MacBook 或 DGX Spark 上本地运行。
Thinking Machines 发布多模态 MoE 模型 Inkling 2 Mini,总参数 26B、激活参数 3.5B,支持最高 100 万 token 上下文,并内置 DSpark 推测器。其核心创新在于中间 12 层以共享权重循环执行三次,每轮保留独立 KV 缓存并读取上一轮的门控消息。vLLM 在 NVIDIA Blackwell、Hopper 与 DGX Spark 上实现 Day-0 支持。
Thinking Machines 以 Apache 2.0 协议在 HuggingFace 开源 Inkling 2 Small 权重,该模型在 Arena.ai Code Arena WebDev 榜单取得 1647 分,成为排名第一的美国开源模型,全球开源模型排名第四、总榜第 23。相比前代 Inkling-Small 的 1408 分提升 239 分,显示其在代码与网页开发任务上的显著进步。
vLLM 在 Inkling 2 Small 发布当天即完成适配,这是一款 594B 总参数、17B 激活参数的多模态 MoE 模型,支持最高 100 万 token 上下文,并原生集成 DSpark 投机解码器。vLLM 通过内核融合、PDL、Gluon 注意力内核与序列并行等优化,在 GB200 四卡张量并行下实现单用户最高 630 TPS、接受长度 3.5,同时支持 LoRA 与强化学习负载。