Inception发布Mercury 3扩散大模型 推理速度超1000 token每秒
扩散式大语言模型(dLLM)开创者Inception发布Mercury 3,号称有史以来能力最强的扩散大模型。其在英伟达通用GPU上推理速度超过每秒1000 token,并在多项基准上超越GPT-6 Luna与Claude Haiku 5.5,上下文窗口扩至100万token。
Inception于10月19日发布Mercury 3,称其为有史以来能力最强的扩散大语言模型(dLLM)。与传统逐 token 生成的自回归模型不同,扩散模型可并行生成多个 token,从而从根本上提升推理速度。Mercury 3在广泛可用的英伟达GPU上推理速度超过每秒1000 token,直指“更强模型必然更慢”的行业假设。

在能力上,Mercury 3宣称在一系列标准基准上持平或优于以速度见长的前沿模型GPT-6 Luna与Claude Haiku 5.5,同时维持此前的推理速度。其规模超过初代Mercury 1的40倍,上下文窗口从上一代的26万token扩展至100万token;价格定为每百万输入token 0.20美元、输出0.70美元,上线期半价。联合创始人斯特凡诺·埃尔蒙(Stefano Ermon)表示,扩散模型的扩展瓶颈在于算力与数据,而非算法本身。
对应用侧而言,毫秒级延迟决定了交互产品是否“跟手”。在智能体(Agent)循环中,模型每一步都要等待推理结果,微小延迟会被不断放大;Mercury 3让团队能在不拖慢节奏的前提下使用更强模型。早期客户已将其用于浏览器操作智能体、交互式教育、实时搜索智能体与客服等场景。
从行业背景看,当各家大模型在标准编程评测上的智能趋于收敛,单位吞吐、上下文长度与每百万token成本已成为生产落地的决胜点。MiniMax、DeepSeek等新一代“Flash”级模型也在以更低成本与更高吞吐抢占市场,Mercury 3则代表了用扩散架构突破速度天花板的一条差异路径。
读者评论 (0)
想参与讨论?请 登录 后发表评论。
还没有评论,欢迎抢沙发!