DeepSeek宣布全面开源内部推理框架DeepInfer，主打高吞吐低延迟

10月20日下午，DeepSeek宣布将内部推理框架DeepInfer全面开源。在已开源一系列大模型、TileLang编译工具及推理算子库的基础上，DeepSeek进一步把内部推理框架对外开放，分享其大规模部署经验。

推理框架的作用在于统筹调度庞大的算力集群，其效率直接决定AI服务的算力成本与电力消耗。DeepSeek表示，基于DeepInfer，已在其DeepSeek V4.1 Flash上实现高吞吐、低延迟的大规模推理服务，未来新模型的推理代码及后续优化也将在此持续更新。

DeepSeek称，开源的初衷是帮助开发者与企业组织优化大规模推理的吞吐与延迟，从而更高效地构建私有化及公有云部署，降低算力成本、减少能源消耗，让智能以更低的价格触达更广泛的人群，实现大模型普惠。

消息公布后，A股AI概念股集体拉升，多只个股涨停。华龙证券指出，DeepSeek快速迭代验证国产大模型能力升级与持续降本逻辑，推理算力需求有望进一步提振；开源模型与Agent工具链的持续完善，也将带动AI编程与企业软件等应用层落地。

三天前，DeepSeek刚刚将V4.1 Flash更新至V4.1-Flash-1017版本，网页端、APP与API已同步切换。此次推理框架开源，延续了其以开放生态降低应用开发成本、推动AI基础设施普惠的一贯路线。