微軟以 MIT 授權釋出 TauGrid,這是一套用來執行 GPU AI 工作負載的 Kubernetes 原生技術堆疊;不過專案自身的文件坦承,端到端測試只在 Azure Kubernetes Service(AKS)上完成,監控路徑中仍有一段需要 Azure 服務。微軟於 8 月 28 日在 AKS 工程部落格宣布這次釋出。
重點整理
- TauGrid 把命令列工具、Kueue 佇列、KubeRay 調度、GPU 健康監控與可觀測性收進單一次 Helm 安裝,並以 MIT 授權發布在 Azure/taugrid 儲存庫。
- README 寫明 TauGrid 的端到端測試是在 AKS 上進行,透過 Azure Data Explorer 的可觀測性等整合仍屬 Azure 專用;跨雲中立支援目前是意向,而非已出貨的功能。
- 專案仍在早期:版本 0.4.2,約 43 顆星、14 個開啟中的議題,多租戶 RBAC、DeepSpeed 與跨雲執行都還留在路線圖上。
TauGrid 實際整合了什麼
它瞄準的是一種熟悉的成本。在 Kubernetes 上跑訓練與推論的團隊,最後都得同時維護一堆獨立專案,外加把它們黏起來的膠水程式:提交腳本、佇列包裝、健康檢查、結果回收。TauGrid 的主張是,這些膠水不該由使用者自己扛。
單獨來看,這個組合裡沒有新東西。Kueue 早就能依配額做公平排程與優先權准入,KubeRay 早就在管理 Ray 叢集,GPU 健康檢查與儀表板各自也都是已解決的問題。微軟真正交付的,是這些零件該怎麼拼在一起的決定,再加上覆蓋其上的 tau 命令列工具,以及一旁的網頁入口。比單純聚合更進一步的只有診斷層:硬體故障時它會自動排空節點,而不是放任工作死在上面。
真正的設計取捨在分工。平台團隊負責安裝與配額政策,研究人員只用命令列,完全不必碰 manifest。這條界線正是多數自建環境守不住的地方,因為膠水程式的所有權最後總會落到最後動手的人身上。
工作負載以 tau.yaml 檔案描述,用 tau run 提交。這道指令會先驗證設定,接著建立 Kubernetes Job 或 KubeRay 的 RayJob,再交給 Kueue 依剩餘配額與優先權決定是否准入。之後由 TauGrid 追蹤狀態、日誌與檢查點,並保留實驗紀錄,讓後續能重現執行或診斷失敗。失敗的工作可以從最後一個檢查點接續,不必從頭再跑。
Azure 依賴落在哪裡
這正是包括 InfoQ 的釋出報導在內、多數報導略過的部分。儲存庫的 README 指出,TauGrid 的端到端測試在 AKS 上完成,而透過 Azure Data Explorer(更常被稱為 Kusto)取得可觀測性等部分整合仍屬 Azure 專用。專案表示有意支援雲端與地端 Kubernetes 且不綁 Azure,並邀請社群朝此方向貢獻。
容器映像檔與 Helm chart 同樣顯示這股引力。第一方映像檔發布在 mcr.microsoft.com/aks/ai-runtime/ 之下的 Microsoft Container Registry,chart 也以 OCI 成品自同一個命名空間釋出。這些都不會阻止你在別家業者的 Kubernetes 上執行,但已測試的路徑、封裝方式與遙測資料,全都指回微軟自家的雲。
第二項保留是成熟度。儲存庫停在版本 0.4.2,約 43 顆星、5 個分支、14 個開啟中的議題,對應約 414 次提交,看起來像是首次公開後幾週的專案,而不是站穩腳步的平台。程式碼以 Go 為主,另有供開發用的 Kind 本機流程,但 Kind 沒有 GPU 裝置外掛,因此會停用 GPU 監控與佇列配額。
路線圖上還剩什麼
把發表與實際上線之間的落差寫進文件而非藏起來,這點值得肯定。但仔細讀那份規劃中的功能清單,會發現共用叢集在開放給第二個團隊之前所需的東西,多半都還在上面:多租戶工作區的範圍化身分與 RBAC、配額強制、資料集生命週期管理。團隊真正會用到的分散式訓練配方也還沒到位,包括 PyTorch DDP 與 FSDP、DeepSpeed、LoRA 與 QLoRA 的微調流程,再加上透過 vLLM、SGLang 與 TensorRT-LLM 的正式環境服務,以及任何跨越單一叢集的執行。
這讓 TauGrid 從落後位置起跑。Kubeflow 正以成熟、可上線的 ML 系統之姿邁向 CNCF 畢業,商用位置則由輝達的 Run:AI 占據。TauGrid 的差異點不是功能廣度,而是封裝上的紀律:一次安裝,以及平台團隊與研究團隊之間界定清楚的所有權分界。
後續觀察
值得問的不是 TauGrid 能否贏過 Kubeflow,而是微軟開源它能換到什麼。把 AKS 的 AI 執行環境以 MIT 程式碼釋出,等於讓「AKS 式」的 GPU 工作執行方式成為預設,其他雲只能跟上。這與 AWS 開源一套代理程式基準測試卻不公布分數是同一套棋路。
對平台團隊而言,實際的問題更窄:在路線圖上的跨雲項目落地之前,對 Kusto 的依賴會不會先被某個可移植的方案取代。執行 TauGrid 需要一座具備 GPU 節點的 Kubernetes 1.30 以上叢集,加上 kubectl、Helm 3 以上與 Git,試跑的代價很低,而 Azure 專屬的稜角也正是在試跑時會浮現。
常見問題
TauGrid 是開源的嗎?能不能在 Azure 之外執行?
它採 MIT 授權並公開託管在 github.com/Azure/taugrid,授權本身沒有任何雲端限制。但實務上 README 寫著端到端測試只在 AKS 完成,透過 Azure Data Explorer 的可觀測性仍屬 Azure 專用,而跨業者中立的支援列為意向,並非目前的保證。
TauGrid 和 Kubeflow 有何不同?
兩者都在 Kubernetes 上執行 ML 工作負載,但 Kubeflow 進度更前面,正以可上線的系統邁向 CNCF 畢業。TauGrid 的訴求是整合:它把 Kueue、KubeRay、GPU 健康監控與可觀測性預先組裝成單一次 Helm 安裝,讓平台團隊不必自行維護中間的串接程式。
研究人員實際上要學什麼才能使用?
官方目標是不需要任何 Kubernetes 知識。工作負載寫在 tau.yaml 檔案裡並以 tau run 啟動,之後狀態查詢、日誌、取消與結果回收都由命令列工具處理。由於支援從檢查點續跑,被中斷的工作會從最後一個檢查點重新開始,而不是從零來過。






