AI资讯

Cloudflare开源决策模型Clef与Clef-flash:基于通义千问打造38.8毫秒打分不写文本,Apache-2.0协议上线Workers AI

发布时间:2026年10月01日 09:10:00

10月1日Cloudflare发布两款开源决策模型Clef(基于Qwen 3.8-27B加rank-256低秩适配器)与Clef-flash(基于Qwen 3.5-9B),Apache-2.0许可,权重已上Hugging Face并同步登陆Workers AI。决策模型不写自由文本,而是接收文本、JSON、图片或视频加一份选择题与判断题schema,对每个允许答案返回概率;推理只跑一次prefill再并行打分,Clef-flash中位延迟38.8毫秒,对比Jev的524.1毫秒快十余倍,上下文64K为Jev两倍并新增视觉输入,兼容Jev API可直接替换。Cloudflare采用标签平滑交叉熵加Brier损失及RLCD校准强化学习训练,Workers AI定价0.24美元每百万输入token,并将推出RL微调服务。


不写文本的模型:把「判断」从大模型里拆出来

10月1日,Cloudflare发布两款开源「决策模型」Clef与Clef-flash,权重以Apache-2.0许可在Hugging Face开放,并同步上线Workers AI(模型ID:@cf/cloudflare/clef)。

决策模型(decision model)是一个正在成型的新品类:它不生成自由文本。输入一段文本、JSON、图片或视频,再给一份由选择题、是非题或排序题组成的schema,模型对每个允许的答案返回概率。典型用途是智能体栈里海量而琐碎的路由与分类调用——工单分流、内容审核、意图判断、智能体下一步动作选择。

Cloudflare的论点很直接:智能体每秒要做大量小型路由判断,用通用大语言模型逐token生成这些判断,又慢又不稳定。

规格:基于通义千问,延迟38.8毫秒

项目ClefClef-flash
基座Qwen 3.8-27B(rank-256低秩适配器)Qwen 3.5-9B
上下文64K token64K token
输入模态文本、JSON、图片、视频同左
中位延迟(43项基准)209.3毫秒38.8毫秒
BFCL函数调用98.47%98.76%
API-Bank91.93%93.11%
许可Apache-2.0Apache-2.0
价格(Workers AI)0.24美元/百万输入token同档

对照系是当下流行的Jev决策接口:Jev中位延迟524.1毫秒、上下文32K、仅文本。Clef两兄弟把上下文翻倍、加入视觉,Clef-flash还快出十余倍,并完全兼容Jev API——已在用Jev类工具的团队可直接替换。

为什么能这么快:一次prefill,并行打分

技术上,Clef采用两阶段注意力路由,让每个合法选项各自拉取所需上下文;推理时只跑一次prefill前向传播,随后对schema中所有合法选项并行打分,没有逐token生成环节。训练侧使用标签平滑交叉熵加Brier损失(概率校准的经典损失),以及Cloudflare称为RLCD(Reinforcement Learning for Calibrated Decisions,校准决策强化学习)的方法。

选择Qwen(通义千问)作为基座也值得注意:这是中国开源模型再次成为海外基础设施厂商产品底座的案例——Cloudflare此前的Workers AI也已对Kimi K2.6、GLM 5.2等中国模型做过FP8/INT4适配。开源权重意味着企业可下载到自有GPU运行,不必为托管推理付费。

配套生意:RL微调服务

发布同时,Cloudflare宣布将推出Clef的强化学习微调服务:初期由前线部署工程师与合作伙伴共建(已开放意向表),后续提供自助式数据采集、微调与重新部署平台,定价未公布。决策模型的商业模式由此清晰:模型权重免费开源赚生态,垂直场景的校准微调与边缘托管赚收入。同周PostHog的Jeeves(9B决策模型)、Firelex仅0.8B的Jeff等同类产品密集出现,「决策模型」赛道在一周内从概念变成拥挤货架。

编辑点评

Clef代表了2026年智能体架构的一个重要趋势:把「思考」与「判断」分离。一个语音客服智能体每通电话可能触发几十次意图路由、合规检查与表单分类,如果这些调用都走旗舰生成模型,延迟与成本都不可承受;专用打分模型38.8毫秒的中位数意味着它可以被放进实时对话链路而不被用户察觉。对国内团队的启示有三:其一,智能体成本优化的最大杠杆不在选更便宜的通用模型,而在把高频判断下沉到专用小模型;其二,Qwen基座被Cloudflare级厂商选中并Apache开源,是国产开源底座国际认可度的又一实证;其三,决策模型输出的是概率而非文本,评估与监控体系(校准度、Brier分数)需要团队补齐相应能力。

来源参考: