AI Newsway

Cloudflare首款自研模型Clef在10項決策基準中拿下7項第一,權重同步開放

Clef與Clef-flash回傳的是校準過的機率而非文字,跑在Workers AI的邊緣GPU上,並同時推出強化學習調校服務。

|5分鐘閱讀0
Cloudflare's San Francisco office, where the Workers AI team released Clef and Clef-flash, the company's first internally trained models, on October 1.
Cloudflare's San Francisco office, where the Workers AI team released Clef and Clef-flash, the company's first internally trained models, on October 1.

Cloudflare於10月1日釋出Workers AI團隊自行訓練的前兩款模型,而這兩款都不寫一個字。Clef與Clef-flash接收一組輸入狀態加上型別明確的問題結構,再針對每個允許的答案回傳校準過的機率;權重也一併以Apache 2.0授權放上Hugging Face。

重點摘要

  • 在10項決策基準中,Clef系列模型有7項拿下最高分,依Cloudflare自家測試結果,領先Typesafe的Jev與其他開放決策模型。
  • 在43次基準測試中,Cloudflare測得Clef為Jev中位速度的2.5倍、Clef-flash為13倍,兩款模型都由其邊緣網路上的GPU提供服務。
  • Clef以凍結的Qwen3.8-27B骨幹進行後訓練,Clef-flash則用Qwen3.5-9B,兩者都以Apache 2.0授權登上Hugging Face。

實際要送給Clef什麼

一次請求會帶上一組狀態——客服訊息、網址、使用者投稿——以及最多64個問題,每個問題屬於三種型別之一。noul是是非題,回傳的是「是」的機率。choice從開發者定義的選項中挑一個,回傳勝出的答案、每個選項的機率以及一個信心值。score依照有序的評分標準為狀態評級,回傳以機率加權的分數與各級別的機率。

由於輸出格式固定,沒有東西要解析,也不必等推理token跑完。Cloudflare的說法是,代理程式可以把這道程序直接放進請求路徑,用數十毫秒確認「我該不該執行這個動作」,再把實際工作交給Workers AI上的語言模型去做。

Clef和Jev差在哪裡

Clef沿用Typesafe的Jev所採的同一套System One API,因此Cloudflare表示既有整合只要換掉端點與模型名稱就能轉移。兩項能力落差對Cloudflare有利:Clef帶有視覺編碼器,可在狀態之外接收最多四張圖片,而Jev目前只處理文字;上下文視窗也是64k對Jev的32k。

Cloudflare提出最銳利的數字來自自家威脅情報團隊。搭配Browser Run,Clef抓取、渲染並分類一個網站網域只花2.2秒;同一流程中該公司最快的通用模型gpt-oss-120b耗時4.7秒,而且只回傳兩項分類。在Typesafe自身的工作流程評測中,Cloudflare報告Clef在四個領域贏得三項——發票處理、客戶服務與安全事件——也就是說第四項仍歸Jev。這裡的每個數字都由廠商自行量測,而發表文章附上的是一個即時示範網站,而非第三方驗證。

延遲差距從何而來

Clef不是一個接一個生成token。它在凍結的Qwen骨幹上只跑一次prefill,接著透過兩階段的注意力路由並行評分所有有效的結構選項,從內部表徵導出答案,不輸出中間文字。速度來自這個非自迴歸的決策步驟,而不是因為模型比較小。

訓練過程維持骨幹凍結,並同時最佳化一個路由頭與rank-256的LoRA轉接層,對有效輸出採用標籤平滑交叉熵,再以Brier損失校準機率。Cloudflare另外打造了一個稱為Reinforcement Learning for Calibrated Decisions的次要目標,會給相鄰的序數選項部分分數,並施加參考懲罰以限制分布偏移。資料集為內部生成的合成資料,做法是置換欄位順序、提示詞與結構樣式。

底下那套微調產品

這次發表的另一半是一項把Clef調校到客戶自身工作負載的強化學習服務,初期由Cloudflare的前置部署工程團隊親手執行,日後才會成為自助式平台。它把公司早已推出的零件縫在一起:AI Gateway把請求流量收成資料集,Workers AI針對基礎版Clef產生rollout,Containers充當評分沙箱,新的Trainer負責更新權重,而Workers AI的自帶模型路徑——建立在Cloudflare併購Replicate後帶進來的Cog成果之上——再把結果重新部署。

Cloudflare是自己的第一個客戶。該公司點名了Trust and Safety的投稿評分、客服分流,以及判斷爬蟲是好機器人還是壞機器人等用途,主張15年累積的標註網路資料正是讓調校後的分類器勝過通用模型的資產。公司把這一切放在「代理雲」的使命之下,延續它推動為代理程式重建網路的同一個賭注。這個類別本身才剛滿一個月:Typesafe在9月才結束隱形狀態。

FAQ 常見問題

Clef是開源的嗎

權重是。Cloudflare已把Clef與Clef-flash以Apache 2.0授權發布在Hugging Face,允許商業使用與本機部署。託管版在Workers AI上以@cf/cloudflare/clef與@cf/cloudflare/clef-flash運作,且Cloudflare表示除非客戶選擇微調,否則不會讀取、儲存或用託管請求進行訓練。儲存庫位於Hugging Face的Cloudflare/clef與Cloudflare/clef-flash。

既有的Jev整合能換成Clef嗎

Cloudflare說可以,因為Clef實作了同一套帶嚴格型別輸出的System One API。實務上就是更換端點與模型識別碼。開發者可透過Workers AI綁定或REST的/ai/run路徑取用,兩者前面都能掛上AI Gateway。

Clef建立在什麼基礎上

兩款模型都是從Alibaba的Qwen系列後訓練而來,訓練期間骨幹保持凍結:Clef用Qwen3.8-27B,Clef-flash用Qwen3.5-9B。Cloudflare先前在這個領域的公開實驗用的是另一個基礎,做法是改造DiffusionGemma,把logprob當成確定性機率輸出,並建立在Matt Mastracci於vLLM專案中的獨立成果之上。

對這篇文章有什麼感想?

SJ
載入中...

相關文章

四種Opus 5的請求寫法,在Claude Opus 5.5上會回400
Developer Tools

四種Opus 5的請求寫法,在Claude Opus 5.5上會回400

Claude Opus 5.5比Opus 5便宜20%,卻對Opus 5原本接受的四種請求回傳HTTP 400。第五項變更則讓代理的進度串流悄悄消音。

Seung Jung4 天前
Docker 把 AI 代理沙箱搬上雲端,按秒計費、每小時 0.07 美元起
Developer Tools

Docker 把 AI 代理沙箱搬上雲端,按秒計費、每小時 0.07 美元起

Docker 推出 Cloud Sandboxes,把微型 VM 代理隔離搬到託管運算上,按秒計費、每小時 0.07 美元起,並將 Kits 格式移交 CNCF。

Seung Jung7 天前
七個月湧入一百萬個代理技能 — 其中近半數只被安裝過一次
Developer Tools

七個月湧入一百萬個代理技能 — 其中近半數只被安裝過一次

Vercel 的 skills.sh 在七個月內突破一百萬個代理技能。近半數只被安裝過一次,375 個項目就吃下全部安裝量的 62%。

Seung Jung6 天前
AWS 開源代理框架 Strands Harness,連比自己更省錢的對手也一併列出
Developer Tools

AWS 開源代理框架 Strands Harness,連比自己更省錢的對手也一併列出

AWS 的 Strands Agents 團隊於 9 月 21 日以 Apache 2.0 授權釋出 Strands Harness,支援 Python 與 TypeScript,可在筆電或五家雲端平台上部署。

Seung Jung10 天前
Zed 的 Delta 用代理執行緒取代 Pull Request
Developer Tools

Zed 的 Delta 用代理執行緒取代 Pull Request

Zed 推出的 Delta 把 pull request 換成一條共享討論串,讓代理與審查者在同一份脈絡下工作。它自家的儲存庫已經把 PR 關掉了。

Seung Jung11 天前
14.5週寫出83萬行Rust:一場由代理主導的重寫
Developer Tools

14.5週寫出83萬行Rust:一場由代理主導的重寫

GitHub動用編碼代理,在14.5週內把43萬行TypeScript轉成83萬2,378行Rust,記憶體用量從1,383MB降至126MB。

Seung Jung13 天前