AI Newsway

蘋果推出512GB Mac Studio與M5 Ultra,發力端側AI

每秒1.2TB的統一記憶體頻寬,瞄準無需資料中心即可執行數千億引數模型的場景

|5分鐘閱讀0
The Mac Studio chassis, now offered with Apple’s M5 Ultra and up to 512GB of unified memory for on-device AI work.
The Mac Studio chassis, now offered with Apple’s M5 Ultra and up to 512GB of unified memory for on-device AI work.

蘋果於8月25日釋出全新Mac Studio,核心是M5 Max與全新設計的M5 Ultra。蘋果力推的配置直指那些希望繞開資料中心、在本地執行大語言模型的使用者:最高512GB統一記憶體,頻寬達每秒1.2太位元組。

核心要點

  • M5 Ultra版Mac Studio最高配備512GB統一記憶體,頻寬每秒1.2TB,比它所取代的M3 Ultra高出50%。
  • 蘋果稱M5 Ultra的GPU峰值AI算力可達M3 Ultra的4.5倍,最多80個GPU核心中每一個都內建了神經網路加速器。
  • 預售於8月25日開啟,起售價5,499美元,正式發售為9月22日,512GB配置則要等到10月下旬。

頂配M5 Ultra將36核CPU與80核GPU組合在一起。蘋果給出的峰值AI算力為M3 Ultra的最高4.5倍,這也是首款每個GPU核心都帶神經網路加速器的Ultra晶片。記憶體頻寬同樣比M3 Ultra高出50%,而在統一記憶體架構下,這個數字比核心數量更能決定實際表現。

為何記憶體容量才是重點

在統一記憶體的機器上,模型與資料共用同一塊記憶體池,不必把權重沿匯流排複製到獨立視訊記憶體中,而這恰恰是普通臺式硬體執行超大模型時最難受的瓶頸。

蘋果的說法由此展開:有了512GB,數千億引數的模型可以完整駐留在本地記憶體裡,整套資料集也能在處理過程中始終保持常駐。至於詞元吐出的速度有多快,則由頻寬決定。

頻寬之所以關鍵,有其結構性原因。每生成一個詞元都要讀取模型權重,因此在大模型上,限制速度的往往是記憶體系統而非運算單元。相較上一代把頻寬提高一半,等於直接抬高了這道天花板。

不需要頂配的使用者可以選擇同一機身的M5 Max版本,機箱與統一記憶體方案相同,記憶體最高128GB。

這臺機器究竟為誰而造

這並非面向大眾的配置,蘋果也沒有假裝它是。真正的受眾是那些想要反覆除錯大模型、又不願為每一次請求計費的研究人員和開發者,以及資料不能離開本地的專業工作流。

蘋果舉出的例子是用本地模型驅動MATLAB等工具中的模擬工作,模型與負載同處一張辦公桌。外圍連線由雷靂5負責,蘋果還表示可通過RDMA把多臺Mac Studio組成共享記憶體池,四臺機器的推理吞吐量最高可達單機的三倍。

與其他本地AI硬體相比

從時間點看,蘋果與其說是引領本地推理的浪潮,不如說是加入其中。輝達一直在把DGX Spark推向桌面級AI裝置的位置,Perplexity也在同一周於該硬體上推出了完全本地化的智慧體平臺,正如本站在跑在自家GPU上且不收費的智慧體一文中所報道的。

Mac Studio這套配置的分水嶺在於記憶體上限。DGX Spark配備128GB統一記憶體,其他多數桌面AI硬體同樣受制於效能驟降前能塞進多大的模型。512GB的可定址記憶體,從一開始就改變了哪些模型有資格被納入考慮。

價格與上市時間

預售已於8月25日開啟,M5 Ultra版Mac Studio起售價5,499美元,9月22日正式發售。M5 Max版本起售價2,499美元。512GB配置上市更晚,定在10月下旬。蘋果在同一輪發布中還推出了首款採用2奈米工藝的M6晶片,這意味著M5 Ultra被定位為當前桌面產品線的算力天花板,而非晶片路線圖的最前沿。

本地推理會成為常規做法,還是停留在小眾選擇,最終取決於經濟賬而非硬體。但三家風格迥異的公司在同一周指向同一個方向,這通常是值得留意的訊號。

常見問題

512GB的Mac Studio能跑多大的模型?

蘋果表示,數千億引數的模型可以完整放進512GB統一記憶體池。實際上限取決於精度,因為量化會讓每個權重佔用更少位元組,同樣是512GB,4位精度能裝下的模型遠大於16位。

在AI任務上,M5 Ultra比M3 Ultra更快嗎?

蘋果給出的資料是M5 Ultra的GPU峰值AI算力最高為M3 Ultra的4.5倍。記憶體頻寬也提升50%至每秒1.2TB,而在超大模型的詞元生成中,頻寬比純算力更關鍵,因為每生成一個詞元都必須讀取權重。

什麼時候能買到512GB版Mac Studio?

預售於2026年8月25日開啟,正式發售為9月22日。512GB配置發貨更晚,安排在10月下旬。M5 Ultra機型在較低記憶體配置下的起售價為5,499美元。

對這篇文章有什麼感想?

SJ
載入中...

相關文章