硬體與本地大模型

MSI EdgeXpert 64GB、DGX Spark 128GB 或 Mac?本地 AI 別只買記憶體數字

記憶體砍半,價格卻不是對半砍。NVIDIA 公布 64GB DGX Spark 合作廠商系統 US$4,999 起,10 月 23 日上市,MSI EdgeXpert 也在這波名單裡;128GB/4TB 的 NVIDIA 商店頁目前列 US$6,950。兩個公開標價相差 US$1,951,64GB 起價只低約 28.1%。這不是同 SSD、同品牌的折扣比較,卻足以提醒買家:新入門款不等於便宜到可以閉眼買。

我的判斷是:需要 NVIDIA 工具鏈,而且工作量確實裝得進 64GB,才值得等 EdgeXpert 新款;本來就用 MLX/Metal 做本地推論,先比 Mac 的實際報價;模型容量已逼近上限,就別為省眼前的價差買錯容量。NVIDIA 64GB 公告、128GB 商店頁

花多少:先把能查到的價格攤開

以下於 2026-10-05 查核。起價、商品頁標價與通路快照分開列;美元、英鎊不換算成台灣含稅到手價。Amazon、Apple 整修與 MacFinder 分別是約五日前、一週前、四日前的頁面快照,並非本日結帳驗證。

採購項目 MSI EdgeXpert 64GB NVIDIA DGX Spark 128GB Mac Studio M4 Max 64GB Mac mini M4 Pro 64GB
指定配置 GB10、64GB;SSD 依合作廠商配置 GB10、128GB/4TB 16 核心 CPU/40 核心 GPU、64GB/1TB 12 核心 CPU/16 核心 GPU、64GB/512GB
公開價格 64GB OEM 平台 US$4,999 起,非 MSI 台灣單一 SKU 定價 NVIDIA 商店 US$6,950;Amazon 其他賣家新品快照 US$6,500.98 起 Apple 台灣認證整修 NT$104,900 英國 MacFinder 店家整修 £1,925
上市/供貨身分 10/23 預定上市 NVIDIA 商店缺貨;Amazon 報價依賣家 舊款、認證整修、限量供應 舊款、店家整修、頁面顯示缺貨
記憶體頻寬 NVIDIA 64GB 平台列 273GB/s 273GB/s 此 16/40 核配置為 546GB/s 273GB/s
固定可用模型容量 原廠未公布固定值 原廠未公布固定值 原廠未公布固定值 原廠未公布固定值
FP16/Q4 最大參數量 兩種精度均未取得可核對原廠數值 同左 同左 同左
軟體路線 DGX OS、NVIDIA AI 軟體堆疊 NVIDIA/CUDA 工具鏈 MLX、llama.cpp Metal 等 Apple silicon 路線 MLX、llama.cpp Metal 等 Apple silicon 路線
廠商模型定位 最多 100B,非本文實測 最多 200B,非本文實測 沒有可直接套用的通用最大 B 數 沒有可直接套用的通用最大 B 數
同條件推論表現 未取得四台同模型、精度、上下文及併發的 token/s 比較,不排性能名次 同左 同左 同左

價格連結:Amazon DGX Spark、Apple 台灣 Mac Studio 整修品、MacFinder 指定 Mac mini。Amazon 的 US$6,500.98 是「其他賣家」新品起價,不是 Amazon 自營價;MacFinder 的店家整修也不是 Apple 認證整修。保固、運稅與供貨要另比,但公開通路價本來就應納入採購報導,不能因台灣原廠尚未單列報價而整段留白。

技術規格依 NVIDIA 現行產品表、Mac Studio 2025 與 Mac mini 2024;未取得的模型容量不是零,也不以理論換算填補。

64GB 的吸引力,是少買用不到的容量

MSI 的新配置保留 GB10 與 DGX OS,主打據點部署,並非另一顆廉價晶片。對已有 NVIDIA 工作流程的團隊,合理問題是「分點是否真的需要 128GB」,而不是每台一律買滿。若固定工作能在 64GB 留下足夠餘裕,低一級的採購門檻就有意義。MSI 新配置公告

反過來說,US$4,999 起仍不是低價試玩。若只是想在桌面跑聊天模型,卻沒有非 NVIDIA 不可的套件或部署要求,我不會只為「個人 AI 超級電腦」的名稱下單。先試現有設備與需要的模型,確認限制究竟是容量、速度還是軟體,才知道這筆錢會不會買到真正改善。

128GB 的理由也很直接:需要更多模型常駐餘裕、較長上下文或多個工作同時運作的人,應把容量放在省價差前面。Amazon 的價格快照比 NVIDIA 商店標價低 US$449.02,已證明通路值得查;但不能因此宣稱當天最低價、保固一致或台灣能照價買到。先鎖定配置,再問供貨與保固,比拿缺貨標價當現貨承諾有用。

Mac 值不值得比?值得,但不能假裝是 CUDA 替身

M4 Max Mac Studio 64GB/1TB 的 Apple 台灣整修價 NT$104,900,至少是一個有配置、有品況的本地預算參考。表中版本頻寬 546GB/s,是 Spark 平台 273GB/s 的兩倍;這是頻寬比,不是生成速度翻倍。對已用 Apple silicon 推論的人,它值得加入試機名單,而不是因沒有 NVIDIA 標誌就略過。Apple 指定整修商品與規格

M4 Pro Mac mini 則保留使用者指定的 12 CPU/16 GPU、64GB 配置。英國店家整修頁列 £1,925、512GB SSD,但顯示缺貨;它提供舊款高記憶體機的市場參考,不是台灣新品的推薦成交價。若在地拿到相同容量的庫存報價,先核對 SSD、保固及品況,不要用 24GB 基礎款價錢假裝 64GB 很便宜。

MLX LM 支援 Apple silicon 上的文字生成、微調與量化模型;llama.cpp 有 Metal 與 CUDA 等後端。因此 Mac 能跑本地模型,不代表既有 CUDA 專案可以原樣搬過去。真正的價差還包括模型格式、套件相容性與維護時間;工具鏈已定型的團隊,不該為硬體標價省一點,反而多花一輪移植工。

最大 100B、200B,不能代替實際工作測試

容量、頻寬與運算精度是三件事。統一記憶體還要給作業系統、框架與上下文快取使用,不能全當模型權重空間。本文不把 64GB 換算成固定可用 56GB,也不拿理論位元數除法冒充 FP16/Q4 的實測最大模型。

同一個模型,量化格式、輸入長度或同時使用人數一變,等待時間與記憶體需求就可能改變。NVIDIA 的最多 100B/200B 是廠商定位,不是任何精度、任何上下文都能順跑的保證;1 PFLOP 是 FP4 且含稀疏性的指標,也不能當 FP16 跑分去壓 Mac。NVIDIA 產品規格、硬體指南

試機只要抓住幾個重點:用你要部署的模型與版本,固定量化、上下文及併發,量首字等待、生成速度與峰值記憶體。問答用真實文件長度,程式任務用真實專案,不只打一聲「你好」。模型啟動成功不是採購驗收,能以可接受的等待完成工作才是。

我的選擇:先決定軟體路線,再花硬體預算

已有 NVIDIA 部署需求且容量夠用,我會先驗 64GB EdgeXpert,再拿正式配置報價與 128GB 通路價比;需要容量餘裕,就優先驗 128GB,不為省 US$1,951 的標價差把需求砍掉。已在 MLX/Metal 工作的人,把 Mac Studio 或同配置 Mac mini 的在地報價一起比,不必硬往 CUDA 平台靠。

如果四台都沒有跑過你的工作,先別買。先花小成本把模型、等待時間與工具鏈選清楚,再決定要不要等 10/23。價格資訊應該幫讀者縮小選擇,不該變成「都以經銷報價為準」的空話;同樣也不能把外國缺貨整修價說成台灣現貨便宜冠軍。

奧微軟體可協助盤點 AI 導入需求、資料與既有工作流程,釐清預算及驗收條件,再討論本地部署或系統整合;本文不是硬體代理報價或性能保證。聯絡奧微

回文章列表