Meta开源Muse Spark Open 8160亿参数模型,登顶美国开放权重之最
10月15日,Meta 超级智能实验室正式发布开放权重模型 Muse Spark Open。这款模型拥有约 8160 亿总参数,每个 token 仅激活约 420 亿参数,是 Meta 迄今规模最大的开源权重版本,也被其称为“迄今为止美国最强大的开放权重模型”。模型已在 Hugging Face 开放下载,并同步登陆 Baseten、Fireworks、Groq、Together AI 等云平台。

从架构上看,Muse Spark Open 采用稀疏混合专家(MoE)设计:主干语言模型共 62 层,每一层设有 256 个专家,路由器为每个 token 仅挑选 8 个专家参与计算,因此虽然参数量高达 8160 亿,实际推理开销仅相当于 420 亿参数的模型。它支持文本、图像、音频、视频四种输入,输出为文本,上下文窗口最高可达 100 万 token,能够直接“看懂”截图、听进语音备忘录、观看录屏来辅助编程。
与主流闭源路线不同,Muse Spark Open 从一开始就是为智能体工作流训练的。Meta 表示,它能在长周期任务中自主规划、调用工具、观察结果并自我纠错,尤其擅长读取大型代码库、完成多文件重构与长时间调试。配套的 Muse Code 让开发者可以用自然语言驱动智能体修改真实项目,官方演示中甚至用它为开源 Mastodon 客户端推送了真实的 iOS 改动。

在本地部署方面,模型借助 Apple 的 MLX 框架针对 M5 Ultra Mac Studio 做了专门优化。两台 M5 Ultra 凭借最高 512GB 的统一内存,可以像一台 terabyte 级超级计算机那样整体加载模型;Meta 称这是“首次把前沿级智能体能力带到桌面端”。同时,SGLang、vLLM、TensorRT-LLM、llama.cpp、Unsloth 等推理框架在发布首日即提供支持,并可在英伟达、AMD、英特尔和苹果芯片上运行。
开源权重模型过去长期被视为闭源旗舰的“次一级”选择,但 Muse Spark Open 的出现正在模糊这条界线。对开发者和企业而言,可本地部署、可审计、可定制的开放权重,意味着数据不必离开内网,也无需为每次调用付费。随着亚马逊、Meta 等巨头接连放出大体量开源权重,智能体时代的基础设施竞争,正从“谁的模型更强”延伸到“谁能把模型交到开发者自己手里”。
读者评论 (0)
想参与讨论?请 登录 后发表评论。
还没有评论,欢迎抢沙发!