Cloudflare 推出 Auto Router,按请求智能选模型最高省 30% 成本
10 月 1 日前后,Cloudflare 在其 AI Gateway 中上线了 Auto Router 的公开测试版。开发者只需把模型名设为 cloudflare/auto,网关就会在收到每个请求时,自动判断任务难度并将其路由到“足够胜任且最划算”的模型,而不再依赖使用者手动挑选。这是继此前开源 Clef 决策模型之后,Cloudflare 在模型路由与智能体成本治理上的又一动作。

Auto Router 的工作分为两步。网关先构建可用模型池,过滤掉不支持该请求格式、缺少凭证或临时不可用的供应商;随后一个运行在 Workers AI 边缘网络上的多分类模型会读取对话最近的内容,把任务归入编码、规划、研究、数据分析等 14 个 类别,并从复杂度、模糊性、风险与上下文依赖四个维度打分,再结合各模型的基准表现与输入输出单价做出选择。Cloudflare 强调,路由优化的是“完成任务的总轨迹成本”,而不是简单地按每百万 token 的最低单价来负载均衡。
Cloudflare 公开了内部基准:在涵盖邮件、日历、Slack、文件、差旅与财务等办公场景的 97 项任务上,Auto Router 以 252/291(86.6%)的成功率,拿下了约为 GPT-6 Sol 八成、Claude Opus 5.5 三成五的成本;在其 OpenCode 内部部署中,相比只用前沿模型,开销最多下降 30%。公司认为,节省主要来自“不必为简单任务支付前沿模型的价格”,而真正需要高能力的编码或安全任务仍可随时调用最强模型。
对企业和开发者而言,Auto Router 把“选模型”这件事从个人使用者手里收回到网关层,使平台团队可以统一设置成本护栏。随着 OpenRouter、LiteLLM 等也推出类似路由,模型路由正逐渐沉淀为 AI 基础设施的标准一层。不过 Cloudflare 也提醒,当使用者不再自己选模型后,一次错误路由更难被察觉,因此网关需要完整记录每次请求最终由哪个模型作答,方便追溯。
从更长的背景看,今年以来“决策模型”与“模型路由”成为智能体落地中的热门方向:轻量模型负责在智能体循环里做路由与判断,既能压低延迟也能省钱。Auto Router 把这套思路直接做进了离用户请求最近的网关位置,意味着成本控制的战场正从模型本身,延伸到每一次请求的分发环节。
读者评论 (3)
想参与讨论?请 登录 后发表评论。
这“够用的模型”标准谁来定,感觉以后买云还得看网关的脾气
这思路确实对,不过真出了红子谁愿意翻一摞子日志?希望默认给个"置信度"参数让我自己决定信不信它
听着挺香的,但怕的是路由错了没人发现,最后还是得手动查日志