AMD推出可在本地執行兆級參數AI的工作站

在2026年IFA展會上，AMD發表了Threadripper Halo Station工作站，該公司將其描述為把資料中心等級的運算能力裝進一台桌上型塔式主機。根據法國ZDNet報導，其目標是在本地執行參數量超過一兆的AI模型——這樣的規模過去只有雲端伺服器叢集才能負荷。

塞進桌上型塔機的伺服器級處理器

這台機器的核心是採用Zen 5架構的AMD Ryzen Threadripper PRO 9995WX處理器：96核心、192執行緒，加速時脈最高達5.4GHz，配備384MB三級快取，熱設計功耗為350W，根據Tom's Hardware報導。它最多可搭配2TB八通道DDR5記憶體，這是該晶片支援的最大配置。

AI加速工作由2026年5月發表的AMD Instinct MI350P GPU負責，採用第四代CDNA架構，以台積電3奈米製程打造。每張加速卡配備144GB HBM3E記憶體，透過PCIe 5.0連接。參考配置搭載兩張加速卡，共288GB顯示記憶體；AMD表示系統最多可擴充至四張加速卡，屆時總容量將提升至576GB。

• 處理器：AMD Threadripper PRO 9995WX，96核心／192執行緒，最高5.4GHz
• 加速卡：2至4張AMD Instinct MI350P GPU（CDNA 4），每張144GB HBM3E
• 系統記憶體：最高2TB DDR5
• 總記憶體：最高2.6TB，聚合頻寬最高16.4TB/s
• 功耗：處理器350W，每張加速卡600W，雙卡參考配置總功耗約1550W
• 全液冷散熱，涵蓋處理器與GPU

為何要在本地執行AI而非仰賴雲端

ZDNet指出，AMD選擇桌上型主機而非遠端伺服器，是在回應研究人員與開發者一項非常實際的問題：執行最龐大的AI模型時，雲端推論費用持續攀升。執行一個兆級參數模型通常需要多張按小時租用的資料中心GPU；Threadripper Halo Station則提出一次性擁有這份運算能力，不再受限於雲端服務商的可用性與定價。

ZDNet引述AMD官網指出，這款機器特別鎖定受限於雲端存取權限或共用基礎設施的團隊，以及必須將敏感資料保留在內部的團隊。這正是本地部署的另一項優勢：資料保密。在企業自有場所內執行的模型不會將任何資料傳輸給第三方，這對製藥研究、國防與金融服務領域而言是決定性因素。

AMD在本地AI領域對抗Nvidia

根據Tom's Hardware報導，從技術層面看，Threadripper Halo Station本質上是一個改裝成塔式機殼的伺服器托盤：原本為資料中心EPYC晶片設計的機殼，被AMD換上了Threadripper處理器。這場較量的重點並非純粹的運算效能——這方面Nvidia憑藉Blackwell晶片仍占優勢——而是內建記憶體容量，正是它決定了一台機器一次能載入多大的模型。透過堆疊最多576GB的HBM3E加上2TB的DDR5，AMD意圖超越搭載Nvidia GPU的競爭對手工作站。

全球最強大的AI工作站，能夠執行兆級參數模型。

這樣的規格也代表著高昂的價格：Tom's Hardware估計，光是核心元件（處理器、記憶體、兩張加速卡）的市場售價就超過10萬美元，加上儲存裝置、電源供應器與散熱系統後可能超過15萬美元——這個價位與聯想ThinkStation P8相當，後者搭載Threadripper Pro處理器與Nvidia Blackwell GPU，滿配售價為334,463美元。AMD尚未公布Threadripper Halo Station的官方售價，也尚未指定負責生產的OEM合作夥伴：據ZDNet報導，該產品計畫自2027年起透過主要PC廠商推向市場。

這對想在本地部署AI的企業意味著什麼

對於希望導入生成式AI、卻不願讓資料經過境外雲端平台的企業而言——出於個資保護與數位主權方面的考量，這類疑慮正日益增加——這種等級的機器提供了一條實際可行的路徑：在自有場所內訓練或執行大型模型，以固定的基礎設施成本取代隨用量成長的推論費用。不過，Threadripper Halo Station目前仍只是一款參考設計，尚無確定售價與上市時程，其公布的入門價格——滿配可能達數十萬美元——目前較適合大型實驗室、專業IT系統整合商或預算充裕的研發部門，而非一般中小企業。