硬體與本地大模型

DGX Spark vs Mac Studio M5|小型本地 AI 伺服器大對決

DGX Spark 和 Mac Studio M5,沒有全贏的一台,看你拿它做什麼:一個人或兩三個人跑語言模型,選 Mac Studio M5 Max 128GB;要生成影片和圖片、很多人共用、常常丟長文件或要微調模型,選 DGX Spark。背後是同一個道理:處理提示詞比 AI 算力,DGX Spark 快;生成 token 比記憶體頻寬,Mac Studio 快。本文是奧微軟體 AugurSoft「AI 策略室」同名影片的文字版,影片可以直接在上方觀看。我們用同樣的預算比兩場:約 20 萬的單機對決、約 40 萬的預算加倍,每一回合的數字、台灣價格和資料來源都整理在下面。

影片章節

時間章節這段講什麼
0:00開場一台 AI 算力強,一台記憶體頻寬大;同樣的預算比兩場
0:19選手進場DGX Spark 和 Mac Studio 各是什麼來頭
3:44先懂兩個數字AI 算力是車速,記憶體頻寬是路寬
4:41第一場:單機對決(約 20 萬)128GB 對 128GB,比生成 token 和處理提示詞
6:07第二場:預算加倍(約 40 萬)M5 Ultra 256GB 對兩台 DGX Spark 串接
7:27很多人一起用整間辦公室一起用,哪一台撐得住
8:00生成影片和圖片同一個影片模型,兩台各要多久
8:56放在辦公室待機耗電、噪音、保固、SSD
9:21結論:照用法買四種用法各該買哪一台

DGX Spark 和 Mac Studio M5,該買哪一台?

先講結論。誰才是最強的小型本地 AI 伺服器,要看你的用法落在哪一格:

你的用法建議原因
一個人,或兩三個人,跑語言模型Mac Studio M5 Max 128GB每一句回答都在生成 token,這一項它快兩倍多;台灣價只比同級的 DGX Spark 貴一萬多
要生成影片、圖片DGX Spark生成影片幾乎從頭到尾都在算,比的是 AI 算力;CUDA 的現成流程裝好就能跑
很多人共用、常常丟長文件、要微調模型DGX Spark人一多、文件一長,比的都是 AI 算力
預算到四十萬照同一個道理選:Mac Studio M5 Ultra 256GB,或兩台 DGX Spark 串接處理長提示詞,兩台 DGX Spark 快兩倍半以上;生成 token,M5 Ultra 小贏

一句話記住:路不塞,比車速;路塞滿,比路寬。車速是 AI 算力,路寬是記憶體頻寬。下面每一回合誰贏,都是這兩個數字決定的。

兩位選手各是什麼來頭?規格與台灣價格

DGX Spark 出道才一年,生下來只為了一件事:AI。DGX 這個名字原本只在機房裡,一台幾百萬起跳;NVIDIA 把它縮成一塊 1.2 公斤的小金磚,放到桌上。心臟是 GB10 超級晶片,裡面的 GPU 是 Blackwell 那一代,AI 算力 1,000 TOPS;128GB 統一記憶體,兩千億參數的大模型一台裝得下,兩台串起來到四千億。它用的是 CUDA,新模型、新工具幾乎都先支援它;在桌上練好的這一套,可以原封不動搬上機房。這台機器的定位可以看什麼是 NVIDIA DGX Spark。

Mac Studio 是創作工作的常勝軍:剪接室、調色室、錄音室、設計公司,背後幾乎都有一台 Mac。這一代跨界來打 AI:M5 Max 的記憶體頻寬每秒 614GB,是 DGX Spark 的兩倍多;往上還有 M5 Ultra,每秒 1.2TB,幾千億參數的語言模型整個裝得進去。它接上就能用,不用裝驅動、不用調環境;白天剪片、修圖、寫程式,晚上跑大模型,都是同一台。

項目NVIDIA DGX SparkMac Studio M5 MaxMac Studio M5 Ultra
晶片GB10 超級晶片(Blackwell GPU)M5 Max(18 核 CPU、40 核 GPU)M5 Ultra(30 核 CPU、64 核 GPU)
AI 算力1,000 TOPS約 100 TOPS約 200 TOPS
記憶體128GB 統一記憶體128GB256GB
記憶體頻寬每秒 273GB每秒 614GB每秒 1.2TB
系統與生態DGX OS(Linux)、CUDAmacOS、MLXmacOS、MLX
尺寸與重量150 × 150 × 50.5 mm、1.2 公斤197 × 197 × 95 mm、2.7 公斤197 × 197 × 95 mm、3.6 公斤
台灣價格128GB/1TB 同晶片機型 NT$169,000 起;NVIDIA 原廠 128GB/4TB NT$199,500128GB/1TB NT$186,400256GB/4TB NT$392,400

DGX Spark 除了 NVIDIA 原廠,還有 MSI、ASUS 等廠商用同一顆晶片出的機型,差在儲存、散熱、保固與價格。上表的台灣價格,DGX Spark 這邊取自原價屋 2026 年 10 月 11 日的估價頁,Mac Studio 取自 Apple 台灣官網。

為什麼兩台各有快的地方?先懂 AI 算力和記憶體頻寬

把 AI 算力想成車速,記憶體頻寬想成路寬。DGX Spark 是一台跑車,開在三線道上;Mac Studio 是一般的車,開在六線道上。語言模型回答你,其實分兩段:

階段在做什麼比什麼誰快
處理提示詞讀取並處理你給的提示詞。整段文字一起算,模型的資料只搬一趟路不塞,比車速(AI 算力)DGX Spark
生成 token把回答一個 token、一個 token 生出來,一個 token 大約一個字。每生一個,整個模型幾十 GB 的資料都要從記憶體再搬一趟路塞滿,比路寬(記憶體頻寬)Mac Studio

第一段路是空的,車快的先到,所以 DGX Spark 明顯比較快。第二段路馬上塞滿,車再快也沒用,比的是路有多寬,所以 Mac Studio 快非常多。

第一場:單機對決,約 20 萬能買到什麼?

兩邊都是 128GB。Mac Studio M5 Max 是 NT$186,400;DGX Spark 同樣 1TB 的機型約十七萬起。Mac 貴一萬多。

回合測什麼DGX SparkMac Studio M5 Max誰拿下
生成 token同一個人測、同一個模型(Qwen3.6-27B)、同一版工具,問同一個問題每秒 7.6 個 token每秒 16.8 個 tokenMac Studio,快兩倍多
處理提示詞丟一份 16,000 token 的長文件,看哪一台先開始回答約 21 秒約 31 秒DGX Spark

生成 token 的差距,幾乎就是兩台的記憶體頻寬比:614 對 273。路塞滿,比路寬。處理提示詞那一回合路不塞,比的是車速,DGX Spark 先開始回答。第一場,各拿一回合。測試資料來自 Osmantic 公開的同模型測試。

買之前該知道的兩件事

  • 模型的架構影響很大。有一種模型叫 MoE,每次只動用一小部分參數。換成這種模型,兩台都快五倍以上。
  • 128GB 能跑多大?七百億參數的大模型,兩台都裝得下。Mac Studio M5 Max 跑起來,每秒約 13 個 token(Tbreak 的實測)。

第二場:預算加倍到約 40 萬,結果會變嗎?

Mac 這邊換上 M5 Ultra、256GB,記憶體頻寬每秒 1.2TB,台灣價 NT$392,400。DGX Spark 這邊再加一台,兩台用一條 200G 的高速線串起來,合計也是 256GB;兩台 NVIDIA 原廠機加串接線約 NT$404,250。兩邊都裝得下一百五十幾 GB 的大模型,這種模型一台 DGX Spark 裝不下。

第二台 DGX Spark 帶來的是算力,兩顆 GPU 一起算;每一台的記憶體頻寬,還是每秒 273GB。

回合測什麼兩台 DGX SparkMac Studio M5 Ultra誰拿下
處理提示詞丟 32,000 token、14 個程式檔約 17 秒約 45 秒DGX Spark,快兩倍半以上
生成 token兩邊用同一套軟體跑同一個大模型每秒三十幾個 token每秒三十幾個 token;換成 Apple 自己的 MLX 再快三成Mac Studio 小贏

車速加倍,處理提示詞的差距拉到兩倍半以上;生成 token 這邊,M5 Ultra 的路更寬,小贏。第二場,還是各拿一回合。測試資料來自 MindStudio 的對照測試。

實際用還有一個細節:長文件只有第一次要等。處理過的內容會留著,後面每個問題,只算新加的部分。

很多人一起用,哪一台撐得住?

如果不是一個人用,是整間辦公室一起用呢?人一多,模型的資料搬一趟,就能同時幫很多人算。要的是更多算力,又回到比車速。

  • DGX Spark:一台從 1 個人加到 32 個人,每個人的速度只慢一成多,合計的產量一路往上(Dendro Logic 的測試)。
  • Mac Studio M5 Ultra:4 個人合計就到頂,加到 8 個人,反而往下掉。

多人共用,DGX Spark 拿下。

生成影片和圖片,哪一台快?

買這種機器的人,不一定只跑語言模型,很多人是買來生成影片的。生成影片幾乎從頭到尾都在算,路不塞,比的是車速。

拿同一個模型比:Wan 2.2,同樣的解析度,同樣大約 5 秒的片。DGX Spark 約 14 分鐘,Mac Studio M5 Max 約 35 分鐘,DGX Spark 快兩倍半(路可的實測影片、mlx-gen 的文件)。

算力再加倍呢?MiniMax H3 這個模型,一台 DGX Spark 跑一次 155 秒;兩台一起跑,65 秒上下,快了兩倍多(joeynyc 的測試紀錄)。

還有一個原因不在硬體。DGX Spark 用的是 CUDA,ComfyUI 這些現成的流程,裝好就能跑;新的影片模型,多半先出 NVIDIA 的版本,Mac 要等人移植。想知道一台 DGX Spark 怎麼做出有聲短影音,可以看DGX Spark+MiniMax H3:快速打造中小企業的 AI 短影音平台。

生成影片和圖片,DGX Spark 拿下。

放在辦公室:耗電、噪音、保固、SSD 差在哪?

最後是每天都會碰到的事:

項目DGX SparkMac Studio
待機耗電約 25 到 40 瓦不到 10 瓦
噪音很安靜很安靜
保固一年一年
SSD 壞了能換。用標準的 M.2,市面上買得到能換。用 Apple 的專用模組,換完要用另一台 Mac 還原

六個回合的記分表

回合比的是誰拿下
單機(約 20 萬):生成 token記憶體頻寬Mac Studio
單機(約 20 萬):處理提示詞AI 算力DGX Spark
約 40 萬:處理提示詞AI 算力DGX Spark
約 40 萬:生成 token記憶體頻寬Mac Studio
很多人一起用AI 算力DGX Spark
生成影片和圖片AI 算力DGX Spark

回到開場的問題:誰才是最強的小型本地 AI 伺服器?沒有全贏的一台。一個人或兩三個人跑語言模型,每一句回答都在生成 token,Mac Studio M5 Max 128GB 快兩倍多,只貴一萬多;要生成影片、圖片,或很多人共用、常常丟長文件、要微調模型,選 DGX Spark;預算到四十萬,照同一個道理選。路不塞,比車速;路塞滿,比路寬。

想在公司放一台 DGX Spark,奧微可以協助什麼?

如果你的用法落在 DGX Spark 這一邊:整間辦公室一起用、要生成影片和圖片、想把資料留在公司,奧微軟體 AugurSoft 可以協助從安裝到整合,把模型和工具接進每天的工作。可以看奧微的 DGX Spark 方案,或直接到 LINE 官方帳號 聊聊你的用法。

常見問題

DGX Spark 和 Mac Studio M5,跑本地語言模型哪一台快?

要分兩段看。生成 token(把回答一個字一個字生出來)比的是記憶體頻寬,Mac Studio 快:128GB 的單機對決,M5 Max 每秒 16.8 個 token,DGX Spark 是 7.6,Mac 快兩倍多。處理提示詞(讀取並處理你給的整段文字)比的是 AI 算力,DGX Spark 快:丟一份 16,000 token 的長文件,DGX Spark 約 21 秒開始回答,Mac 約 31 秒。

一個人或小團隊用,該買 DGX Spark 還是 Mac Studio?

一個人,或兩三個人,主要跑語言模型,選 Mac Studio M5 Max 128GB。每一句回答都在生成 token,這一項它快兩倍多;台灣價 NT$186,400,只比同樣 128GB、1TB 的 DGX Spark 同晶片機型貴一萬多。平常它還是一台能剪片、修圖、寫程式的工作機。

公司很多人要一起用本地 AI,選哪一台?

選 DGX Spark。人一多,模型的資料搬一趟就能同時幫很多人算,要的是更多 AI 算力。一台 DGX Spark 從 1 個人加到 32 個人,每個人的速度只慢一成多,合計的產量一路往上;Mac Studio M5 Ultra 在 4 個人時合計就到頂,加到 8 個人反而往下掉。

要在自己公司生成影片和圖片,哪一台比較適合?

DGX Spark。生成影片幾乎從頭到尾都在算,比的是 AI 算力。同一個模型 Wan 2.2、同樣解析度、大約 5 秒的片,DGX Spark 約 14 分鐘,Mac Studio M5 Max 約 35 分鐘,快兩倍半。DGX Spark 用的是 CUDA,ComfyUI 這些現成的流程裝好就能跑;新的影片模型多半先出 NVIDIA 的版本,Mac 要等人移植。

預算有 40 萬,買一台 Mac Studio M5 Ultra 256GB,還是兩台 DGX Spark?

照同一個道理選。常常丟長文件、長程式碼進去,或很多人一起用,選兩台 DGX Spark:處理 32,000 token 的提示詞約 17 秒,Mac Studio M5 Ultra 約 45 秒。主要是一個人等回答,選 Mac Studio M5 Ultra:兩邊用同一套軟體時生成 token 幾乎一樣,都在每秒三十幾個,Mac 換成 Apple 的 MLX 再快三成。

DGX Spark 和 Mac Studio M5 在台灣賣多少錢?

2026 年 10 月查到的台灣價格:128GB、1TB 的 DGX Spark 同晶片機型 NT$169,000 起,NVIDIA 原廠 128GB、4TB 是 NT$199,500;Mac Studio M5 Max 128GB、1TB 是 NT$186,400。256GB 這一級,Mac Studio M5 Ultra 256GB、4TB 是 NT$392,400;兩台 NVIDIA 原廠 DGX Spark 加串接線約 NT$404,250。實際價格以通路與 Apple 官網當時的標示為準。

資料來源

回文章列表