IT之家 · 智能时代T2·86 分
面壁智能开源 MiniCPM-V 4.7:首个端侧 MoE 多模态模型,3GB 内存实现 13+ token/s 解码
原标题:面壁智能发布新一代端侧多模态大模型 MiniCPM-V 4.7,仅 3GB 内存可实现 13+ token/s 解码速度
- MiniCPM-V 4.7 推出 35B-A3B 和 1B 两个版本,其中 35B-A3B 是系列首个 MoE 架构模型。
- 基于 LES 推理加速技术,35B-A3B 版本在仅 3GB 内存下实现 13+ token/s 解码速度,支持无损流畅运行。
- 同步开源 SRFT 微调方案,帮助开发者低成本扩展能力并减少灾难性遗忘。
- 广泛适配 Intel、AMD、Arm、瑞芯微等芯片平台,支持 iOS 和 Android 移动端部署。