量子位 (微信公众号)T2·78 分
淘宝 MNN 团队开源 0.3B 手机模型 端侧解码达 350 token/s
原标题：淘宝MNN团队开源0.3B手机模型，iPhone 18 Pro上离线跑出350 token/s
- 0.3B 参数模型与量化、推理引擎联合优化，而非单纯压缩现有大模型
- 官方指标：解码超 200 token/s 目标、实测 350 token/s，峰值内存低于 300MB
- 功耗目标为 100 次推理耗电不超过电池总量 1%，面向高频调用场景
返回热点榜
llm热度 9.0°
AI 聚合热点事件 · 2026/11/5
淘宝 MNN 团队开源 0.3B 手机模型 端侧解码达 350 token/s
1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/11/5 16:09:00
全景综述与最新动态
1 家信源交叉印证淘宝 MNN 团队发布并开源约 0.3B 参数的 MNN-Pocket-0.3B，面向手机应用原生场景，将模型结构、词表、训练数据、后训练与量化推理引擎协同优化。官方称在 iPhone 18 Pro 上离线解码可达 350 token/s，峰值内存低于 300MB，目标是在业务场景上逼近 8B 级模型效果。
最新动向/淘宝 MNN 团队发布并开源约 0.3B 参数的 MNN-Pocket-0.3B，面向手机应用原生场景，将模型结构、词表、训练数据、后训练与量化推理引擎协同优化。官方称在 iPhone 18 Pro 上离线解码可达 350 token/s，峰值内存低于 300MB，目标是在业务场景上逼近 8B 级模型效果。
逐小时热度走势
13 个完整观测小时当前
9.0
峰值
11.817:00
近 24h 变化
–
曲线只比较全程持续完整观测的同一批信源；缺口小时数据已插值平滑，保持趋势连续。