苹果与Meta宣布合作:8160亿参数开源模型可在Mac Studio本地运行
10月15日,苹果与Meta宣布达成合作,开发者很快就能在高端Mac电脑上本地运行Meta最新发布的开放权重模型Muse Spark Open。两家公司表示,该模型针对编程和智能体任务设计,可在本地完成代码编写、视频分析等复杂工作,不必再将全部运算交给云端。

Muse Spark Open采用混合专家架构,总参数达8160亿,每个token激活约420亿,原生支持文本、图像、视频和音频输入,上下文窗口最高100万token。Meta称其为迄今能力最强的美国开放权重模型。目前模型权重已在Hugging Face上线,并可通过亚马逊SageMaker AI、谷歌云Model Garden等平台获取,Baseten、Fireworks AI、Groq等平台则提供托管API服务。
要在本地运行这一体量的大模型,硬件门槛并不低。用户需要2至4台搭载M5 Ultra芯片的Mac Studio串联,每台统一内存最高512GB,两台即可组成拥有1TB统一内存、内存带宽1.2TB/s的超级计算机。苹果同步更新了MLX机器学习框架,让模型可以跨多台Mac分摊运算。当前256GB内存版Mac Studio售价至少10799美元,512GB版本将于本月晚些时候推出,整套硬件投入超过4万美元。

扎克伯格在X上发文称,Muse Spark Open在新的Mac Studio上运行出色,并感谢苹果CEO特纳斯与苹果团队的支持;特纳斯回应称,这一量级的模型能如此高效地在桌面上运行令人惊叹。Meta AI主管亚历山大·王表示,许多强大的开放权重模型体积过大,不适合多数个人电脑,而Mac Studio的内存容量让运行该模型变得可行。

这笔合作引发关注,还在于两家公司的历史关系。苹果与Meta自2017年后再未公开合作,2021年苹果推出隐私新政限制广告追踪,Meta当时估计该调整将令其2022年营收减少约100亿美元。如今特纳斯接替库克出任苹果CEO,双方在AI上找到交集——Meta今年已购入数百台Mac,供超级智能团队试验本地AI与智能体任务。
对Meta而言,这是其去年重组AI团队后发布的第二款开源模型,8月其先推出了体量较小的Muse Glimmer,本周早些时候则发布了能力更强但不开放权重的Muse Wonder。对苹果而言,合作强化了Mac作为AI开发设备的吸引力,也显示其芯片在大型数据中心之外拓展AI算力的潜力。分析认为,本地推理在数据安全和成本上的优势,可能对OpenAI和Anthropic等云端服务商构成新挑战。
读者评论 (0)
想参与讨论?请 登录 后发表评论。
还没有评论,欢迎抢沙发!