AI 硬體選擇
放得下、跑得快、天天穩,三關決定這場賭局
想在桌上放得下 128GB 等級的大模型,DGX Spark 是 NVIDIA 原廠的現成答案;報導中的 128GB RTX 5090 只是極少量原型卡,買不買得到都還是問題。
但如果模型塞得進 32GB,一般 RTX 5090 反而跑得更快,所以先看模型多大,再決定要不要賭。
先說結論:這不是一場只看容量的賭局
「5090 128G」看起來像是同時擁有大容量與高速度的捷徑,但公司買 AI 主機不是收集驚人規格。你要過的其實是三關:放得下、跑得快、天天穩。
- 模型需要超過 32GB 的記憶體空間:報導中的 RTX 5090 128GB 原型卡與 DGX Spark 才有討論空間。
- 模型可以完整放進 32GB:正式版 RTX 5090 的高記憶體頻寬通常更有速度優勢。
- 每天要讓團隊拿來交付:原廠整機與可追蹤的支援路徑,比「這張卡今天有沒有貨」更重要。
想先看改裝卡到底有哪些坑,可讀128GB RTX 5090 是 AI 神卡,還是一場工程豪賭?如果你要的是現成的企業方案,可直接看企業 AI 引擎|NVIDIA DGX Spark × 奧微。
128GB RTX 5090 是什麼?先別把原型卡當市售型號
NVIDIA 正式 RTX 5090 的規格是 32GB GDDR7,不是 128GB。報導中的 128GB 5090 採用客製 PCB 與原型記憶體,被形容為數量極少的原型卡,並非 NVIDIA 正式量產產品。
所以第一個問題不是「它跑多快」,而是「你能不能買到一張可長期使用的卡」。拿它當工程玩具,這場賭局很刺激;拿它當公司日常交付的唯一主機,你賭的就不只是性能。
第一關:放得下
大模型會不會爆記憶體,可以先用一個粗估開始:參數量乘上每個參數所佔空間。4-bit 量化時,每 10 億參數的權重約佔 0.5GB;因此 70B 模型單算權重就約 35GB。這只是粗估,實際執行還要留給上下文、KV cache 與執行環境。
結果很直接:70B 級模型即使做 4-bit 量化,正式版 RTX 5090 的 32GB 也很容易在第一關就卡住。DGX Spark 的 128GB 統一記憶體有更大容量空間;報導中的 128GB 原型卡理論上也放得下,前提是你真的拿得到它。
想搞懂模型大小怎麼換算成硬體需求,可讀權重都開放了,為什麼你的電腦還是跑不動?還不熟悉 DGX Spark,可先看什麼是 NVIDIA DGX Spark?
第二關:跑得快
放得下不等於跑得快。NVIDIA 官方架構文件列出 RTX 5090 的記憶體頻寬為 1792 GB/s,約為 1.8 TB/s;DGX Spark 官方硬體頁列出的統一記憶體頻寬是 273 GB/s。這兩個數字是官方規格值,不是工作負載測試結果,但它們說明了為什麼模型只要能完整放進 32GB,RTX 5090 通常會有更強的速度優勢。
反過來說,模型若已經大到放不進 32GB,再快的卡也過不了第一關。這就是這場賭局最容易看錯的地方:小模型先看速度,大模型先看容量,不要拿一個數字代表所有工作負載。
第三關:天天穩
正式版 RTX 5090 官方規格表列出 575W 顯示卡總功耗,並以 1000W 作為規格表中的建議系統電源。當你把一張稀有的改裝原型卡放進主機,還要同時處理供電、散熱、驅動、相容性與故障排查。
技術展示只要成功跑一次,公司交付卻是明天、下週、下個月都要找得到負責人。DGX Spark 是 NVIDIA 原廠整機,硬體、系統與支援路徑都比改裝原型卡明確。能跑是技術,天天可以交付才是工程。
想先釐清自己裝與請人導入的邊界,可看買了 DGX Spark 怎麼裝?自己裝 vs 請人裝,差在哪。
價格關:看起來是一張卡,算完卻像兩套整機
Tom's Hardware 報導中的 128GB RTX 5090 原型卡報價約 US$13,200。以臺灣銀行 9 月初牌告約 31 至 32 元、US$1 約 NT$32 粗估,約為 NT$422,400,也就是約 42 萬元。這還只是卡,不是一台可承受 575W 顯示卡的完整主機。
奧微頁面上的 DGX Spark 方案為 NT$210,000,包含硬體、安裝與整合,且是一次性方案,沒有每月訂閱費;實際仍以諮詢後的報價為準。用同一把粗估尺看,一張報導中的原型卡報價,約等於兩套 DGX Spark 方案。價格與方案範圍可直接查看企業 AI 引擎|NVIDIA DGX Spark × 奧微。
三種人,三種不同的選法
- 你愛折騰、能除錯,還接受庫存與維修不確定:128GB 原型卡是很有趣的工程專案,但不要把它包裝成現成企業交付。
- 你的模型明確可以放進 32GB,並且優先追求速度:正式版 RTX 5090 是更直接的選擇。
- 你要跑更大模型,且會讓團隊每天使用:DGX Spark 把大容量與原廠整機放在同一個可落地的選項裡。
不要先問「哪台最強」,先問「我的模型要多少空間,這台機器是給一個人玩,還是給一群人每天工作」。答案一出來,這場賭局就少了大半。
公司真要用,從工作開始選
企業導入不是把 AI 主機擺上桌就結束。要先確定誰使用、資料從哪裡來、模型需要多大、輸出怎麼回到日常流程。不知道先從哪件事開始,可看一台放在桌角的 AI,能替小公司做哪六件事。
若你已經確定要把大模型留在公司,可再比對企業 AI 引擎|NVIDIA DGX Spark × 奧微。奧微軟體會把硬體、安裝、軟體環境與使用情境一起釐清;可透過 LINE 說明你想跑的模型與團隊使用方式。
一句話總結
128GB 是門票,不是答案:放得下只是第一關,跑得快、天天穩,才決定這台機器能不能真的用。模型塞得進 32GB,就選更快的 5090;要放大模型、讓公司每天用,DGX Spark 是比較不用賭的那一條路。
來源
- NVIDIA GeForce RTX 5090 官方規格(核對日:2026-09-21)
- NVIDIA RTX Blackwell GPU Architecture(RTX 5090 記憶體頻寬;核對日:2026-09-21)
- NVIDIA DGX Spark Hardware Overview(核對日:2026-09-21)
- Tom's Hardware:128GB RTX 5090 原型卡報導(核對日:2026-09-21)
- 臺灣銀行牌告匯率(9 月初牌告約 31 至 32 元,用於粗估)
- 奧微軟體 DGX Spark 方案頁(價格與方案範圍核對日:2026-09-21)
