资讯›热点›正文

AWS开源Strands Decider 2B轻量决策模型,专为智能体路由设计

山河远阔 2026-10-2 19:32 阅读 4 评论 2热点
亚马逊云科技StrandsLabs团队开源20亿参数决策模型Strands Decider 2B,不直接生成文本而在预设选项中决策,本地延迟低于150毫秒,面向智能体路由与工具选择等低延迟场景。

Amazon Web Services(AWS)旗下StrandsLabs团队于10月1日正式开源轻量级决策模型Strands Decider 2B。与动辄生成文本、代码或多模态内容的大语言模型不同,这款仅有20亿参数的模型刻意剔除了文本生成环节,只在预设选项中做出选择并给出置信度评分,目标是把智能体工作流里大量重复的“下一步该做什么”判断,从昂贵的前沿大模型手中接管过来。

AWS开源Strands Decider 2B轻量决策模型,专为智能体路由设计

从技术架构看,Strands Decider 2B基于阿里通义千问Qwen3.5-2B构建,但AWS没有沿用其原有的语言模型输出头,而是换装了一个仅约100万参数的定制“指针头”(pointer head),并用Rank-16 LoRA适配器微调,直接将隐藏状态与候选答案的位置匹配评分。本次开源的v.20版本参数规模定为20亿,AWS称其足够轻量,可在笔记本等本地设备上以低于150毫秒的延迟运行,同时处理较复杂的决策任务。官方基准显示,该模型在JevBench上的准确性与校准度均优于同级别其他开源2B模型,权重已通过Hugging Face提供,完整代码库、训练脚本与示例均在GitHub上线。

AWS开源Strands Decider 2B轻量决策模型,专为智能体路由设计

在落地思路上,AWS倡导“混合智能体”架构:由决策模型负责路由、工具选择与策略分类等高频但简单的环节,把需要深度推理的复杂任务交给大语言模型。由于每次输出都附带置信度分数,开发者能直接评估结果可信度;代价是模型不再具备文本解释能力,无法说明自己为何这样选。StrandsLabs指出,此前引发关注的类型安全AI项目Jev已展现决策模型潜力,但受并行输出架构限制,在复杂推理上仍有上限,而Strands Decider 2B正是为改进这类局限而来。

决策模型正迅速成为本周AI行业的新品类。就在同一周,TypeSafe AI的Jev、Cloudflare的Clef以及Perplexity的Decider相继亮相,业内越来越倾向于为自动化流程寻找比完整大模型更便宜、更快的智能形态。AWS工程师Marc Brooker表示,这一需求来自与客户的交谈——他们在构建智能体时并不总是需要前沿大模型的全部能力与成本,一个能在工作流中判断“基于当前位置下一步做什么”的小型模型,往往更划算也更易部署。

读者评论 (2)

想参与讨论?请 登录 后发表评论。

  • 北
    北岛有风2026-10-03 07:19

    黑盒问题确实烦人,不过想想人走岔路时也没人给你解释心理动机,能跑通就好

  • 玉
    玉米猪肉2026-10-02 19:40

    把大模型的“选路”活儿拆出来,确实能省不少钱,但没了文字解释,出了错还真难debug,有点黑盒了。