量子位 (微信公众号)T2·68 分
Ember 引擎实现 30B 模型端侧无损推理，缓解存算力错配
原标题：30B大模型跑进手机，推理引擎开始自我进化
- Ember推理引擎通过优化系统开销而非压缩模型精度，实现了30B大模型在手机端的无损运行。
- 云端大模型对DRAM产能的消耗导致内存价格暴涨，促使行业加速探索端侧AI以缓解存算力错配。
- 随着HBF等上游技术支撑，预计明年100B参数模型有望在移动端流畅运行，推动智能体手机普及。
返回热点榜
compute热度 9.2°
AI 聚合热点事件 · 2026/10/24
Ember 引擎实现 30B 模型端侧无损推理，缓解存算力错配
1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/10/24 12:00:00
全景综述与最新动态
1 家信源交叉印证无量火科技发布Ember推理引擎，在不修改模型且保持质量无损的前提下，大幅降低内存占用，使30B参数大模型能在手机端运行。该方案旨在解决云端算力溢出导致的存储资源供需矛盾，推动AI向终端迁移。
最新动向/无量火科技发布Ember推理引擎，在不修改模型且保持质量无损的前提下，大幅降低内存占用，使30B参数大模型能在手机端运行。该方案旨在解决云端算力溢出导致的存储资源供需矛盾，推动AI向终端迁移。
逐小时热度走势
2 个完整观测小时连续完整观测不足 3 个小时，暂不绘制趋势曲线。