Google發表第8代TPU 8tx與8i Max晶片，主打AI代理與資料安全

2026年11月9日，Google發表了第8代TPU的兩款新系統：TPU 8tx與TPU 8i Max。根據Google的說明，這是該公司首度在一年內推出四種TPU系統。依日本科技媒體Gigazine的報導，TPU 8tx搭配AMD的CPU，可以安全地處理機密資料；TPU 8i Max則把兩顆晶片整合在同一個封裝內，以提升處理效能。

TPU（Tensor Processing Unit，張量處理器）是Google自行設計、專為AI訓練與推論打造的處理器。2026年4月的Google Cloud Next大會上，Google已發表針對大規模訓練的TPU 8t，以及針對即時推論的TPU 8i。Google表示，與上一代相比，TPU 8t的訓練效能最高提升2.7倍，TPU 8i的推論性價比提升80%。這次的兩款新系統是這個組合的延伸。

TPU 8tx：在運算過程中保護資料

資料在儲存與網路傳輸時通常會加密，但電腦處理時必須在記憶體中解密。機密運算（confidential computing）的目的，就是保護這些「使用中的資料」，同時也保護AI模型本身的權重。對於想讓自主代理處理敏感資訊的企業與政府來說，這是實際存在的問題。

Google表示，TPU 8tx採用與TPU 8t相同的晶片，並搭配第5代AMD EPYC主機CPU。安全機制直接內建於硬體層，即使在運作期間，敏感資料與模型權重也受到保護並維持隔離。該系統還採用為即時推論開發的低延遲網路Boardfly，據Google指出，延遲最多可比TPU 8t降低一半，效能損失幾乎為零。

TPU 8tx同樣適用於小規模訓練。團隊可以用私有資料微調模型、把大型模型蒸餾成小型模型，並透過強化學習訓練代理，而不必在不同叢集之間搬移敏感資料。Google把它定位給執行前沿模型或自有模型、並持有最敏感資料的受監管企業與政府機關。

TPU 8i Max：突破「記憶體牆」

AI一次能夠參考的資訊量稱為上下文視窗。當數十個AI代理同時處理整套軟體程式碼或數小時的影片時，記憶體頻寬很快就會成為瓶頸。Google把這個問題稱為「記憶體牆」。

為此，TPU 8i Max把兩顆低延遲的TPU 8i晶片合併在單一封裝中。Google表示，與TPU 8i相比，它的運算能力、SRAM容量與HBM頻寬都提高到兩倍。由於在現有機櫃的佔地面積內可以容納兩倍的矽晶片，資料中心每平方英尺、每瓦特能部署的運算能力也隨之增加。

• 發表時間：2026年11月9日（Google部落格）
• 第8代TPU共四種系統：8t（訓練）、8i（推論）、8tx（機密運算）、8i Max（超長上下文）
• TPU 8tx：延遲最多比TPU 8t低一半，效能損失幾乎為零（Google）
• TPU 8i Max：運算能力、SRAM與HBM頻寬皆為TPU 8i的兩倍（Google）

新的是系統，而不是晶片

Google區分了設計晶片與建構系統：前者是耗時數年的過程，後者則是圍繞晶片重新組合運算、網路、儲存、封裝與安全。Google指出，這種模組化設計讓它能在數個月而非數年內交付專用機器。依Gigazine報導，執行長桑達爾·皮蔡表示，與Google DeepMind研究人員的聯合設計，讓公司不必等待傳統的半導體週期，就能持續為客戶創新。

在軟體方面，Google表示上個月開源的TorchTPU，讓PyTorch程式碼與Hugging Face模型不需改寫就能在TPU上原生執行。vLLM與SGLang等推論引擎也有TPU後端。一套處於預覽階段的開源TPU代理工具，可接入Claude Code、Cursor與Google Antigravity等程式開發工具，自動完成TPU的上手設定。Google表示，TPU客戶已近100家，包括前沿AI實驗室、交易公司、零售業者與大學。

目前仍不清楚的事

Gigazine撰文時，TPU 8tx與TPU 8i Max的具體上市時間與價格尚未公布。文中所有效能數字都來自Google，我們讀到的資料中沒有第三方的獨立測試。韓國AI Times等媒體把這兩款晶片描述為對輝達的追趕，但我們能讀到的兩個資料來源並未把它們與輝達的GPU直接比較。競爭關係只是市場背景，並非實測結果。

這對台灣企業意味著什麼

對於金融、醫療或公部門等正在評估AI代理的企業來說，這次發表增加了可選方案：在不把資料移出受保護環境的前提下微調或蒸餾模型，對擔心資料外洩的團隊是一個加分項。在上市時間與價格公布之前，穩妥的做法是等待官方資訊再規劃部署。官方宣稱的PyTorch相容性，則為已有AI工程團隊的企業提供了衡量遷移工作量的初步參考。