Prime Intellect收购Moondream:视觉模型与推理引擎合体
10月13日,总部位于旧金山的AI基础设施公司Prime Intellect宣布收购开源视觉语言模型公司Moondream。Moondream联合创始人Vik Korrapati与Jay Allen将加入Prime Intellect,领导并扩展公司的推理业务,同时加速多模态模型(包括视觉与计算机使用)的研发。目前,Moondream 3.1已通过Prime Inference提供服务,由其Photon引擎驱动。

这笔交易的核心不只是模型权重。Moondream团队人数不足十人,却打造了月下载量达数百万次的开源权重视觉语言模型,还自研了Photon推理引擎——它能把每个模型编译成单一GPU程序,并配套自定义GPU内核与巨内核(megakernel)编译器。Prime Intellect表示,这些执行技术将与自家平台整合,让模型和决定其速度、运行成本的“机器”进入同一屋檐下。
官方给出的性能数据显示了小模型路线的竞争力:Moondream 3.1在物体检测、航拍图像、图表和货架等拥挤场景中领先,在部分基准上达到每秒34次请求,约为次优开源模型的24倍;与Meta新前沿模型Muse Wonder相比,其在照片物体指认任务上以约千分之一的成本达到后者80%的准确率。不过这些对比多来自公司自述或未公开的内部测试,尚待独立验证。
在推理侧,Prime称Photon在单张英伟达H100上每秒可完成超过60次Moondream推理,延迟可低至数十毫秒,经常比调用前沿API快40倍以上,足以支撑实时视频场景。对客户而言,未来几天内所有Moondream Cloud用户将获得Prime平台额度;Moondream品牌将保留,继续作为小型高效多模态模型的产品线。
背景来看,此次收购折射出新云与推理服务商对差异化路线的争夺。Prime Intellect今年7月融资时估值达10亿美元,自称年化收入已突破1亿美元,其平台连接评估、微调、强化学习与推理全链条。将自有模型与推理引擎合并运营,意在让“拥有模型的公司”在成本与速度上抗衡通用巨头。Moondream联合创始人Jay Allen称:“Moondream证明了小而高效的模型能在特定任务上击败巨型模型,Prime正在建设同样的未来:许多由公司拥有的专业化模型。”
读者评论 (0)
想参与讨论?请 登录 后发表评论。
还没有评论,欢迎抢沙发!