Cloudflare开源决策模型Clef与Clef-flash:基于通义千问打造38.8毫秒打分不写文本,Apache-2.0协议上线Workers AI
发布时间:2026年10月01日 09:10:0010月1日Cloudflare发布两款开源决策模型Clef(基于Qwen 3.8-27B加rank-256低秩适配器)与Clef-flash(基于Qwen 3.5-9B),Apache-2.0许可,权重已上Hugging Face并同步登陆Workers AI。决策模型不写自由文本,而是接收文本、JSON、图片或视频加一份选择题与判断题schema,对每个允许答案返回概率;推理只跑一次prefill再并行打分,Clef-flash中位延迟38.8毫秒,对比Jev的524.1毫秒快十余倍,上下文64K为Jev两倍并新增视觉输入,兼容Jev API可直接替换。Cloudflare采用标签平滑交叉熵加Brier损失及RLCD校准强化学习训练,Workers AI定价0.24美元每百万输入token,并将推出RL微调服务。
不写文本的模型:把「判断」从大模型里拆出来
10月1日,Cloudflare发布两款开源「决策模型」Clef与Clef-flash,权重以Apache-2.0许可在Hugging Face开放,并同步上线Workers AI(模型ID:@cf/cloudflare/clef)。
决策模型(decision model)是一个正在成型的新品类:它不生成自由文本。输入一段文本、JSON、图片或视频,再给一份由选择题、是非题或排序题组成的schema,模型对每个允许的答案返回概率。典型用途是智能体栈里海量而琐碎的路由与分类调用——工单分流、内容审核、意图判断、智能体下一步动作选择。
Cloudflare的论点很直接:智能体每秒要做大量小型路由判断,用通用大语言模型逐token生成这些判断,又慢又不稳定。
规格:基于通义千问,延迟38.8毫秒
| 项目 | Clef | Clef-flash |
|---|---|---|
| 基座 | Qwen 3.8-27B(rank-256低秩适配器) | Qwen 3.5-9B |
| 上下文 | 64K token | 64K token |
| 输入模态 | 文本、JSON、图片、视频 | 同左 |
| 中位延迟(43项基准) | 209.3毫秒 | 38.8毫秒 |
| BFCL函数调用 | 98.47% | 98.76% |
| API-Bank | 91.93% | 93.11% |
| 许可 | Apache-2.0 | Apache-2.0 |
| 价格(Workers AI) | 0.24美元/百万输入token | 同档 |
对照系是当下流行的Jev决策接口:Jev中位延迟524.1毫秒、上下文32K、仅文本。Clef两兄弟把上下文翻倍、加入视觉,Clef-flash还快出十余倍,并完全兼容Jev API——已在用Jev类工具的团队可直接替换。
为什么能这么快:一次prefill,并行打分
技术上,Clef采用两阶段注意力路由,让每个合法选项各自拉取所需上下文;推理时只跑一次prefill前向传播,随后对schema中所有合法选项并行打分,没有逐token生成环节。训练侧使用标签平滑交叉熵加Brier损失(概率校准的经典损失),以及Cloudflare称为RLCD(Reinforcement Learning for Calibrated Decisions,校准决策强化学习)的方法。
选择Qwen(通义千问)作为基座也值得注意:这是中国开源模型再次成为海外基础设施厂商产品底座的案例——Cloudflare此前的Workers AI也已对Kimi K2.6、GLM 5.2等中国模型做过FP8/INT4适配。开源权重意味着企业可下载到自有GPU运行,不必为托管推理付费。
配套生意:RL微调服务
发布同时,Cloudflare宣布将推出Clef的强化学习微调服务:初期由前线部署工程师与合作伙伴共建(已开放意向表),后续提供自助式数据采集、微调与重新部署平台,定价未公布。决策模型的商业模式由此清晰:模型权重免费开源赚生态,垂直场景的校准微调与边缘托管赚收入。同周PostHog的Jeeves(9B决策模型)、Firelex仅0.8B的Jeff等同类产品密集出现,「决策模型」赛道在一周内从概念变成拥挤货架。
编辑点评
Clef代表了2026年智能体架构的一个重要趋势:把「思考」与「判断」分离。一个语音客服智能体每通电话可能触发几十次意图路由、合规检查与表单分类,如果这些调用都走旗舰生成模型,延迟与成本都不可承受;专用打分模型38.8毫秒的中位数意味着它可以被放进实时对话链路而不被用户察觉。对国内团队的启示有三:其一,智能体成本优化的最大杠杆不在选更便宜的通用模型,而在把高频判断下沉到专用小模型;其二,Qwen基座被Cloudflare级厂商选中并Apache开源,是国产开源底座国际认可度的又一实证;其三,决策模型输出的是概率而非文本,评估与监控体系(校准度、Brier分数)需要团队补齐相应能力。
来源参考: