Liquid AI 开源 d1 决策模型,3B 版本单次推理仅 8 毫秒
Liquid AI 于 10 月 7 日发布两款开源权重决策模型 d1-3B 与 d1-omni-600M,将决策模型这一轻量品类推向本地与边缘设备。与动辄生成长篇文本的通用大模型不同,决策模型不做 token 生成,而是在一次前向传播中直接返回结构化判断,更适合内容审核、工具选择、意图识别等判断类任务。

两款模型规模差异明显。d1-3B 约 31 亿参数,基于 LFM2.5-VL-3B 视觉语言模型训练,接受文本与图像输入;d1-omni-600M 约 6 亿参数,是首个实验性检查点,额外加入音频编码器,可同时处理文本加图像或文本加音频。在 Liquid AI 自有的 Decision Index v0.2.1 评测中,d1-3B 取得 48.57 分,超过所有 100 亿参数以下的模型,并与体量约 12 倍的 Decider 35B-A3B 持平;d1-omni-600M 则为 15.95 分。
速度是其最大卖点。官方公布的延迟数据显示,d1-3B 在 NVIDIA RTX 4090 上回答单个问题仅需 8 毫秒,在 Jetson AGX Thor 上为 16 毫秒,即便最小的 Jetson Orin Nano 也能在 50 毫秒内完成,足以支撑摄像头逐帧实时决策。在七项公开文本基准上,d1-3B 平均得分 82.9,高于 Decider 4B 的 81.1。

对开发者和企业而言,开源权重意味着可以把模型下载、微调并部署在自己的硬件上,且首日即支持 llama.cpp,可运行于 Apple、AMD、高通和 NVIDIA 芯片,并支持 NVFP4 精度。这让医疗记录、客服对话、工厂摄像头等敏感数据不必离开内网,就能跑起一个轻量分类器。不过其采用的 LFM Open License v1.0 带有商用限制,年营收超过 1000 万美元的企业需单独获授权。
决策模型并非要取代生成式大模型,而是补齐快判断这一环。当智能体需要在毫秒级决定调用哪个工具、某条内容是否违规、某段语音意图为何时,一个几亿到几十亿参数、单次推理的专用模型往往比调用云端大模型更经济。随着边缘算力与多模态需求增长,这类小而专的模型正在成为端侧 AI 的重要组成。
读者评论 (0)
想参与讨论?请 登录 后发表评论。
还没有评论,欢迎抢沙发!