面壁智能发布MiniCPM-V 4.7端侧多模态模型,35B MoE仅3GB内存可运行
面壁智能(ModelBest)正式发布新一代端侧多模态大模型MiniCPM-V 4.7,提供35B-A3B与1B两个版本。其中35B-A3B采用MoE架构,总参数350亿、激活30亿,约3GB内存即可运行,已在iPhone与iPad上实现十余token/s的解码速度,并支持国内外主流芯片平台。
面壁智能(ModelBest / OpenBMB)近日正式发布新一代端侧多模态大模型MiniCPM-V 4.7,提供35B-A3B与1B两个版本,面向手机、平板等终端设备的高效率推理场景。

35B-A3B是MiniCPM-V系列首个MoE(混合专家)架构模型,总参数350亿、每次推理仅激活30亿参数,约3GB内存即可运行。官方实测显示,在iPad Pro上解码速度达到15+ token/s,在iPhone 17 Pro Max上以3GB内存实现13+ token/s,兼顾了视觉语言理解与端侧部署成本。
在模型能力上,4.7版本延续了端侧多模态路线,可处理图像与文本联合输入,并在性能—效率帕累托前沿上较上一代有明显提升。1B版本则进一步降低部署门槛,适合资源极度受限的轻量设备。两个版本均刷新了同级别模型的效率表现。

兼容性方面,MiniCPM-V 4.7已支持瑞芯微、NVIDIA、Intel、Apple等国内外主流芯片平台,并可运行在iOS、安卓与鸿蒙系统之上。面壁智能同步提供开源端侧适配代码及主流推理框架支持,开发者无需从零搭建即可将模型集成进应用。
作为开源大模型,MiniCPM-V 4.7以开放协议发布,延续了面壁在端侧AI领域的路线。随着手机厂商与芯片平台对本地推理的投入加大,轻量、高效、可私密的端侧多模态模型,正成为继云端大模型之后又一个竞争焦点,也让图像理解、实时翻译等能力得以在断网或低延迟环境下运行。
读者评论 (0)
想参与讨论?请 登录 后发表评论。
还没有评论,欢迎抢沙发!