蚂蚁百灵开源Ling-3.1-flash:总参数约5600亿,最低4卡可部署
10月15日,蚂蚁百灵正式开源大模型Ling-3.1-flash,模型权重当日起在Hugging Face、ModelScope、OpenRouter等平台开放下载,用户也可通过Ling Studio在线体验。该模型9月30日已发布,重点面向日常办公、长周期软件研发和复杂Agent任务,此次开放权重,是希望更多团队能在自有环境与算力条件下检验模型能力、并把相关能力接入自己的业务流程。

Ling-3.1-flash采用线性注意力加稀疏混合专家架构(MoE):每8层中包含7层KDA线性注意力与1层Gated MLA,设有512个路由专家、每个token激活其中8个并额外调用1个共享专家。模型总参数约5600亿,每token激活约250亿,上下文窗口最高支持100万token。
部署成本是本次开源的亮点。针对本地部署,团队对路由专家采用MXFP4量化、dense层保持block-FP8,权重占用从约534GB降至292GB;在对应的Hopper GPU测试配置中,服务部署由8卡降至4卡。团队还提供了长上下文并行推理方案(PCP/DCP)与增强的JSON Schema支持,方便企业做长文档处理与工具调用。

从第三方评测看,Ling-3.1-flash在Artificial Analysis测试中智能指数为41、输出速度约每秒210token,混合调用价格约每百万token 0.19美元;在Design Arena开放权重分类中,其数据可视化、React Native移动应用、3D设计和游戏开发四个方向均位列第三,SVG生成与网站制作分列第四、第五。蚂蚁披露,在内部的Lua原生编译器开发任务中,该模型持续开发约17小时,独立测试通过率达97.8%。
实际效果方面,智东西结合编辑部日常工作进行实测:在财报分析和工作信息整理上,Ling-3.1-flash交付清晰、可用,生成的网页图表直观、交互流畅;在3D场景和移动端应用开发中,也能完成场景搭建、页面设计及功能实现。目前该模型已接入蚂蚁内部桌面协作Agent客户端小虎。百灵也提示,模型在一次性接收大量长文本时可能失焦,且当前版本不具备原生视觉理解能力,需另行搭配视觉模型。
背景上,近一周硅谷AI大厂动作密集:谷歌云10月9日推出企业通用智能体Gemini Agent,Meta 10月12日发布Muse Wonder系列,谷歌10月14日开放旗舰模型Gemini 4 Argon。与海外厂商聚焦通用智能体不同,中国厂商更强调把开源模型用进办公、金融、医疗等产业场景——百灵此前已发布面向金融研究的Ling-3.0-flash-Fin和面向医疗的Ling-3.0-flash-Sante。随着权重开放、部署门槛下降,国产大模型正在以更低成本进入企业私有环境。
读者评论 (0)
想参与讨论?请 登录 后发表评论。
还没有评论,欢迎抢沙发!