资讯›热点›正文

面壁智能发布MiniCPM-V 4.7:3GB内存跑350亿参数端侧MoE模型

步履不停 2026-10-13 20:47 阅读 6 评论 1热点
10月13日,面壁智能发布端侧多模态大模型MiniCPM-V 4.7。其35B-A3B版采用MoE架构,总参数350亿、推理仅激活30亿,约3GB内存即可运行,iPad Pro解码速度15+ token/s,覆盖iOS、安卓、鸿蒙与主流芯片平台。

10月13日,面壁智能正式发布新一代端侧多模态大模型 MiniCPM-V 4.7,包含 35B-A3B 与 1B 两个版本。其中 35B-A3B 采用 MoE 架构,总参数 350 亿、每次推理仅激活 30 亿,官方称其是首个可在端侧无损流畅运行的开源 MoE 模型。

面壁智能发布MiniCPM-V 4.7:3GB内存跑350亿参数端侧MoE模型

据官方介绍,MiniCPM-V 4.7 的 35B-A3B 版本仅需约 3GB 内存即可运行,在 iPad Pro 上实测解码速度达到 15+ token/s。发布当日即支持瑞芯微、NVIDIA、Intel 和 Apple 等国内外主流芯片平台,同时覆盖 iOS、安卓和鸿蒙系统,并提供开源端侧适配代码及主流推理框架。1B 版本则主打端侧极致效率,让旗舰级能力进入更多端侧设备。

这一突破依赖面壁智能自研的 LES(前瞻专家调度)技术。MoE 模型内部有众多“专家”,每次回答只调用其中几位,虽然能力更强,但给手机运存带来极大压力。LES 技术可提前预测接下来要用到哪些专家,趁当前计算还在进行时就把它们提前加载好,让加载与计算同步推进。该技术目前为业界独家开源方案。

面壁智能发布MiniCPM-V 4.7:3GB内存跑350亿参数端侧MoE模型

端侧多模态模型的竞争正在加剧。过去一年,从手机厂商到芯片厂商都在推进大模型本地化部署,但受限于内存与算力,端侧模型大多要在参数规模上妥协。MiniCPM-V 4.7 用 MoE 架构在能力与内存占用之间取得新的平衡,若实测体验与官方数据相符,将推动多模态能力从少数旗舰设备走向更广泛的日常设备。

背景上,MiniCPM 系列由面壁智能联合 OpenBMB 开源社区发布,截至目前全球累计下载量已突破 6000 万次,覆盖文本、视觉、语音全模态。此次 4.7 版本发布,也意味着国产端侧大模型在开源生态上的积累正在转化为可量化的产品竞争力。

读者评论 (1)

想参与讨论?请 登录 后发表评论。

  • 楼
    楼下大妈2026-10-13 20:54

    3GB内存跑350亿参数听着离谱,但端侧MoE一直卡内存瓶颈,这个LES调度要是真能落地,小手机也能玩大模型了