Apple 稱以員工閒置 Mac 建成分散式 AI 推論 GPU 資源池

Apple 描述了一套名為 Minions 的內部系統，會把配備 Apple Silicon、執行 macOS 的裝置上未被使用的 GPU 資源集中起來，轉化為可供機器學習推論使用的分散式運算能力。根據 Apple Machine Learning Research 發布的一份研究摘要，該公司將 Minions 形容為一個「動態且分散式的虛擬 GPU 雲」，能夠彙整多台 Mac 上處於閒置狀態的 GPU，藉此執行大規模推論工作負載。Apple 所陳述的目標相當務實：在公司內部集中式 GPU 容量吃緊時，優先利用既有硬體，而不是再額外採購更多 GPU。

這份論文摘要在界定範圍時相當審慎。它把問題描述為：對 GPU 加速推論的需求持續成長，但集中式 GPU 基礎設施同時存在成本高、彈性受限，以及資源短缺時必須長時間等待等限制。Apple 的研究人員主張，現代的 Apple Silicon Mac 本身已具備相當強大的 GPU，但在一般日常使用情境中，這些 GPU 經常有很大一部分時間處於低使用率甚至閒置狀態。他們的核心論點是，這些沉睡中的資源可以被組織成一個實用的推論平台，供那些需要運算能力、卻不一定能及時取得中央叢集資源的團隊使用。

以辦公室 Mac 組成的虛擬 GPU 雲

依照 Apple 研究頁面的說法，Minions 的設計目標是推論，而不是通用型的 AI 訓練。這個區分非常重要。相較於大規模模型訓練，推論工作負載通常較容易被切分，也較容易以更具彈性的方式安排與排程。Apple 表示，這套系統提供了彈性的 GPU 推論任務執行、容錯能力，以及高效率的資源利用。該公司的摘要在此處並沒有提供本文來源可見的詳細效能基準表，但它確實指出，根據其經驗，在集中式 GPU 資源受限的情境下，閒置的 macOS 裝置可以成為一個實際可行的分散式 GPU 推論平台。

法國媒體 01net 的另一篇報導則補充了一些 Apple 簡短摘要中未明確展開的架構細節與運作說法。由於這些具體內容來自次級報導來源，因此應被視為「報導所述」的描述，而不是本文根據 Apple 摘要本身就能獨立確認的細節。01net 指出，過去某些內部 AI 工作因集中式 GPU 無法使用，曾需要排隊等待數小時；而 Minions 讓許多這類任務的啟動時間縮短到只要幾分鐘。這是一項值得注意的說法，但在未直接由原始論文驗證之前，它仍然只是該報導提出的主張。

報導中的架構：四個主要組成

01net 將 Minions 描述為建立在四個主要元件之上。依其說法，中央的 Minion Server 會接收來自各團隊的請求，並把工作拆分成多個子任務。這些子任務的狀態，據稱會由 PostgreSQL 資料庫追蹤。每一台加入系統的 Mac 之後都會執行一個 Minion Executor，負責在本機 GPU 上處理分配到的那一部分工作，接著把結果上傳到 S3 儲存空間，並向伺服器回報狀態。另有一個獨立的 Minion Watchdog 用來監督整體裝置群，如果某一台機器停止回應，就會重新分派其工作。報導也提到，儀表板可提供即時的系統狀態可視性。

• 中央 Minion Server：接收工作並將其拆分為子任務
• 依 01net 所述，用於追蹤任務狀態的 PostgreSQL 資料庫
• 部署在每台已加入 Mac 上、於本機執行 GPU 工作的 Minion Executor
• 用於偵測故障並重新分配中斷任務的 Minion Watchdog

如果這些描述準確，該架構顯示 Apple 對於一個高度異質、且狀態不穩定的裝置池，採用了相當典型的控制平面模式。辦公室裡的 Mac 並不是專用伺服器：它們可能會斷線、進入睡眠、被員工重新拿去使用，或在沒有預警的情況下變得不可用。在這種背景下，任務切分、持久化狀態追蹤，以及 watchdog 監督程序，就不是可有可無的附加功能，而是核心需求。這套架構同時也暗示，Minions 優先最佳化的面向，很可能是分散式可用性與故障處理能力，而不是極致的原始吞吐量。

Minions 看起來優先最佳化的是什麼

從兩個來源的描述來看，策略方向大致一致。Minions 並沒有被描繪成要與集中式、類似 Nvidia 風格的 GPU 叢集競爭，更不是用來支撐最大型前沿模型的方案。相反地，重點在於把原本閒置在辦公桌上的既有資源重新利用，並讓它們能在公司內部用於推論工作。01net 明確指出，其目標是可用性，而不是單純追求蠻力式算力；這套系統的用意，在於把內部網路中原本已存在的容量重新分配給缺乏這些資源的團隊。

這樣的定位，也和 Apple 自家摘要中有限但清楚的措辭相互呼應。Apple 強調的是：不必額外採購 GPU，也能利用現有硬體；並且一再把 Minions 放在「集中式 GPU 資源受限」的環境中討論。換句話說，它的價值主張不太像是在效能上擊敗為資料中心量身打造的叢集，而更像是減少閒置硬體的浪費，並讓內部使用者取得運算資源的過程更加平順。

限制本身也是故事的一部分

同樣地，這些來源也清楚表明，這種架構伴隨著不可忽視的限制。首先，Minions 被討論的脈絡是推論工作負載，而不是完整的大規模訓練。其次，它仰賴的是閒置中的 Apple Silicon macOS 裝置，這意味著可供使用的資源數量會隨員工行為與裝置使用狀況而波動。由使用者機器組成的分散式資源池，本質上就是動態的：節點可能隨時消失，不同 Mac 機型之間的效能也可能不一致，而系統必須把故障視為一種正常運作條件來承受。

第三，儲存與協調管理的額外負擔，可能正是這個設計的核心之一。報導中提到使用中央伺服器、資料庫，以及類似 S3 的結果儲存方式，這顯示工作協調與資料搬移是非常重要的考量。分散式推論的確可能受惠於多顆 GPU，但並非每一種模型或每一項任務都能被乾淨俐落地拆分。這也有助於解釋，為什麼 Apple 的摘要會特別強調容錯與排程彈性，卻沒有著重於極端效能表現的宣稱。

01net 也報導，近期的 Mac mini 與 Mac Studio 系統可透過 Thunderbolt 5 上的 RDMA 互相連結，藉此結合記憶體與運算能力，載入一台機器單獨無法容納的大型模型。這是一個相當引人注目的細節，但在本文提供的來源中，它只出現在 01net 的文章裡，並未出現在前述 Apple 的簡短摘要之中。因此，這項內容應被理解為報導所提及的能力，而不是兩個來源共同確立的事實。如果它確實如描述般被實作，便可能處理掉 Mac 單機推論最明顯的瓶頸之一：模型大小與本地記憶體上限之間的落差。

Apple 說了什麼，又沒有說什麼

Apple 自家的研究摘要，值得注意之處在於它的克制。它表示，Minions 可以把閒置的 Mac 轉變為一個實用的分散式 GPU 推論平台，並且提供彈性的任務執行、容錯能力，以及高效率的資源使用。就本文可見的來源文字而言，它並沒有宣稱這種方法能取代集中式叢集，也沒有表示它能廣泛支援巨型模型，更沒有說它適用於每一種 AI 工作負載。這些沒有被說出口的部分，本身就很有訊息量。它們暗示 Minions 是針對一個特定瓶頸所提出的內部解法：在可共享的 GPU 資源稀缺時，為那些能夠分散到一群狀態易變的 Apple Silicon 裝置上的推論任務，提供一條替代路徑。

對一般企業而言，較具體的啟示並不是辦公室裡的筆電與桌機就能直接取代資料中心 GPU。真正的重點是：當集中式推論容量有限時，一個經過審慎管理、由員工閒置 Mac 構成的資源池，對某些合適的工作負載來說，或許能成為內部補充層；前提是企業本身有能力處理協調管理、故障、裝置可用性不均，以及「偏向推論任務、而非最大型訓練工作負載」所隱含的較狹窄適用範圍。