NVIDIA 推出 64GB DGX Spark:把大型模型與 AI 代理帶到本地

NVIDIA 10 月 2 日宣布 64GB 統一記憶體版本的 DGX Spark,主打本地運行 100B 參數模型及代理;兩部設備可透過 Sync 組成 128GB 的本地系統。

NVIDIA 於 2026 年 10 月 2 日公布 64GB 統一記憶體版本的 DGX Spark,將定位由個人 AI 開發機進一步推向本地模型和代理工作站。NVIDIA 表示,新配置可以在本地運行 100B 參數級模型,並在不依賴雲端的情況下支援編程、研究和其他 agent workflow;合作廠商的產品由 10 月 23 日起推出,起價 4,999 美元。

DGX Spark 的重點不是單純把一張顯示卡放進較小機箱,而是以 GB10、64GB 統一記憶體、DGX OS 和 NVIDIA 的軟件堆疊,讓模型、工具和代理可以在同一部本地設備上運行。對包含敏感程式碼、內部文件或離線資料的工作來說,本地處理可以減少把資料送出網絡的需要;但實際私隱仍取決於網絡設定、日誌、使用者權限及安裝的工具,不能只看「local」標籤。

當單一設備的記憶體不足時,兩部 DGX Spark 可以用 NVIDIA Sync Cluster Assistant 組成 128GB 的本地系統,官方稱可處理最高約 200B 參數模型。NVIDIA 亦表示,在自己的測試中,兩部同步的 DGX Spark 運行 Qwen 3.8 27B 時最高可達單機的 1.7 倍表現。這是 NVIDIA 的硬件和軟件測試結果,實際速度會受模型量化、網絡、批次、並行方式及工作負載影響。

軟件方面,設備預裝或支援 NVIDIA Agent Toolkit、CUDA-X AI、Nemotron、Ollama、vLLM 和 PyTorch;Sync 會協助設定網絡、軟件版本和節點。NVIDIA 表示之後的 launcher 亦會加入 Qwen 3.8 和 OpenCode。這種整合對本地代理很重要,因為使用者不只要下載模型,還要處理推理伺服器、工具權限、資料夾範圍、任務狀態和多部機的協調。

官方列出的使用方式包括讓編程或研究代理全天候運行、在本地電腦上處理應用程式推理,以及在工作量增加時由一部設備擴展至兩部。對希望避免雲端成本或資料外流的團隊,本地代理可以提供更直接的控制;代價是團隊要自己負責硬件供應、更新、備份、監控、存取控制和故障處理。

DGX Spark 64GB 的訊號,是 AI 代理的運行位置開始出現更清晰的本地選項:不是所有任務都要交給大型雲端服務,也不是所有本地工作都能達到同一速度或模型規模。採用前應先測量實際上下文長度、並發量、模型量化、延遲和功耗,再決定哪些資料適合留在本地。涉及生產系統時,還要把本地環境當成需要更新和審計的服務,而不是一台買回來就自動安全的黑盒。

MODULE.002 //

更多 Insights

分享網站、AI automation、數碼營銷、AI news 和 VMTS 公司新聞。