Cloudflare 开源 Clef 决策模型:39 毫秒做决定,人不必在环

Cloudflare 开源 Clef 决策模型:39 毫秒做决定,人不必在环

Author: tengdy | Create: 2026-10-03 09:16:50 | Update: 2026-10-03 09:16:50 | 分类:智能体与 Harness

开源QwenAgent决策模型Cloudflare

10 月 1 日,Cloudflare 发布并开源两个「决策模型」(decision model):Clef(27B)与 Clef-flash(9B),Apache 2.0 许可,已上线 Workers AI 并登陆 Hugging Face。它们不写文章、不写代码——只做一件事:给预定义的选项输出概率,让下游代码直接执行。

决策模型是什么

LLM 能推理但输出不可控、速度慢;传统分类器快但每换一类就要重训。决策模型卡在两者之间:

  • 输入一段状态(文本、JSON,Clef 还支持图像)+ 一组带类型的问题,单次前向返回每个选项的概率,没有自由文本生成,无需输出解析;
  • 支持三种问题类型:choice(每选项概率)、布尔判定(条件为真的概率)、score(跨有序标准打分);
  • Cloudflare 的例子:一条客服消息进来,同时判定「紧急程度」和「该路由给哪个团队」,下游代码据此分流、升级或转人工。

技术路线:基座(Qwen3.8-27B / Qwen3.5-9B)完全冻结,训练联合路由头 + rank-256 LoRA,Brier loss 做校准,强化学习阶段用自家 RLCD——与 TypeSafe 训练 Jev 同源的方法。

数字与战绩

  • 延迟:Clef-flash 中位 39ms、Clef 209ms,对比 TypeSafe Jev 的 524ms;
  • 上下文:64K token(Jev 的两倍),且支持图像输入(Jev 目前仅文本);
  • API 完全兼容 Jev,客户可无缝切换;
  • 自报 43 项基准延迟全面领先,准确率互有胜负——Jev 在 When2Call 上仍领先,Cloudflare 自己的数据也没有掩饰这点。

Cloudflare 威胁情报团队已拿它做网站分类:抓取、渲染、分类一个域名 2.2 秒搞定,自家最快的通用 LLM 跑同样流程要 4.7 秒且只返回两个类别。

为什么值得关注

「决策模型」三周内成了独立品类。 9 月中旬 TypeSafe 发布 Jev,9 月底 OpenAI 跟进基于 GPT-6 Luna 的 Decisions API,10 月 1 日 Cloudflare 开源 Clef——间隔不到三周,Ollama v0.35 也悄悄加了兼容的 systemone 接口。agent 工作流里那些「让 LLM 判断一下再走分支」的环节,正在被拆出来做成专门的模型层。

human-in-the-loop 的边界在移动。 Cloudflare 的原话是「智能体决策不再必须有人在环」。这与本周另一侧的趋势(FTC 调查、苹果收紧 macOS 权限)构成一枚硬币的两面:技术上一侧是「决策快到不需要人」,监管与 OS 一侧是「动作大不敢没有人」。未来 agent 设计的核心问题就是这条线的画法——哪些决策交给 39ms 的模型,哪些必须停给人看。

开源 + 兼容是最实际的打法。 Apache 2.0 权重可自托管、Jev 兼容 API 可平移——对被锁定在单一决策 API 上的团队,这是一个成本友好的第二供应商选项。

参考:Cloudflare 官方博客、The Decoder、TPS Report、ThreatFrontier。

评论(0)

暂无评论,来抢沙发~


关于本站 · RSS

浙ICP备2025156991号浙公网安备33010802013816号 浙公网安备33010802013816号 © 2026 智能体工场 - [从善如登] All rights reserved.