美光總裁警告：AI擴張速度卡在記憶體散熱瓶頸

美光科技（Micron Technology）總裁暨首席技術與產品長德博爾（Scott J. DeBoer）9月2日在台北南港展覽館登場的2026國際半導體展（SEMICON Taiwan）大師論壇暨全球生態系高峰會，以「From Silicon Innovation to System Intelligence: Architecting the Next Wave of AI」為題發表演講，拋出一句定調全場的判斷：AI正以記憶體的速度在擴展。他提醒，這幾年的技術進展確實讓既有位元跑出更多效率、讓固定容量榨出更多頻寬，但要支撐全球資料中心的建置需求仍遠遠不夠，記憶體在未來數年依舊將嚴重供給不足。

頻寬、容量、散熱：AI系統的鐵三角

德博爾以汽車拆解記憶體系統的三個維度——這個比喻，他坦言是演講當天早上才想定的。頻寬是引擎馬力，必須被持續推高，才能交付眾人已逐漸視為理所當然的運算成果；容量是油箱，頻寬不足時系統本就不需要大容量，但頻寬一路往上，能吃下這些馬力的容量必然同步放大，形成自我實現的循環。第三項散熱則是輪胎：引擎再大、油箱再滿，輪胎沒氣，車子照樣動不了。他形容過去一年散熱管理的變化極為劇烈，當頻寬在與合作夥伴協同下被一路拉高，如何把熱從系統導出，反而成為決定頻寬最終能跑多快的限制條件——三者必須同時到位，這才是「AI以記憶體的速度擴展」的真正含義。

德博爾認為，記憶體世界創造位元的能力仍走在指數曲線上。以他在半導體業30年的尺度衡量，DRAM已走過15個製程節點，成長不全靠幾何微縮，更多來自架構層次的改寫，未來幾年還會再經歷數次。尖端DRAM的密度已到什麼程度？一根人類頭髮的直徑範圍內，可以放進1,500個以上的DRAM電容器。他把同樣的進步幅度換算到汽車上：1995年一輛270匹馬力、售價6萬美元、每加侖跑23英里的保時捷，若照DRAM的軌跡演化，今天會有將近300萬匹馬力、售價5美元、每加侖跑23,000英里。

先進封裝與混合鍵合卡住的三道關卡

• 先進封裝的橫向擴充壓力：記憶體要把愈來愈多資訊送進邏輯晶片，在有限的平方毫米內擴充輸入輸出（I/O）連接點的壓力只會更大；晶圓對晶圓鍵合已落實於NAND，未來將導入DRAM，但可製造性與製程控制仍須大幅往前推。
• 混合鍵合的量產成熟度：這是真正的瓶頸。混合鍵合在產業內的使用規模仍相對小，必須在晶粒對晶圓、堆疊、量測與鍵合物理上大幅成熟，才能在超高產量下穩定達成可靠鍵合，而這正是目前高量產能力明顯落後的一環。
• 散熱從輔助設計變成結構設計：現代系統的邏輯發熱並不均勻，DRAM必須依客戶與應用做特定設計，在晶粒與立體堆疊中內建實體散熱結構，把熱從底層邏輯一路導到頂端的冷卻界面——這是未來四到五年HBM4E、HBM5、HBM5E乃至垂直產品頻寬藍圖的根本挑戰。

在資料中心，HBM站在效能金字塔的頂端，但整套系統靠的不只是HBM，高密度DDR記憶體模組與低功耗DRAM模組扮演的角色比過去更大、也更複雜，負責把模型搬進搬出，以及承接鍵值快取（KV cache）這類巨量記憶體需求。出乎多數NAND業者意料的，是高效能SSD在資料中心的大量採用——四、五年前NAND看起來是一門糟透了的生意，如今卻翻轉成充滿技術創新的高效能領域。邊緣端則帶來另一組約束，機器人與車用應用同樣要高頻寬，但功耗上限與成本結構和資料中心完全不同，讓已經嚴重短缺的DRAM供給壓力再度升高。美光已公開未來十年投入約2,500億美元，在美國、台灣、新加坡與日本擴建晶圓製造設施；不過德博爾強調，當天談的不是擴產，短期內真正急迫的，是用創新與效率把既有產能用好。

記憶體撐起AI代幣經濟學

德博爾指出，許多系統瓶頸短期內不會改變，能優化的空間主要落在記憶體頻寬，以及如何更有效率地使用這些記憶體。過去幾年AI代幣經濟學（Tokenomics）的改善，主要驅動力就是HBM頻寬的躍升，從HBM3E到即將接棒的HBM4與HBM4E；同一條曲線也延伸到手機、後手機世代裝置與車用應用。下一步是垂直HBM（Vertical HBM），直接把HBM疊在邏輯晶片之上，容量較小但頻寬極大，適合對頻寬極度敏感的推論場景，但這項技術同樣回到混合鍵合與先進封裝的門檻。把記憶體移得更靠近運算單元、縮短物理距離，也在壓低HBM與邏輯之間的功耗代價。至於光學互連，除了機櫃對機櫃的應用，德博爾更關注HBM到GPU的晶片對晶片連接，但也直言這是更艱難、時間軸更長的挑戰。封裝端擺進更多HBM、更多GPU、做更大的系統，同樣拉低了代幣成本；DRAM本身則將走向3D，雖不會像3D NAND那樣一次翻倍容量，但足以延續未來十年的位元成長。

美光同步擴大聚焦AI的創投基金規模，希望更早接上新創的機會，並於8月下旬宣布成立美光研究院（Micron Research Labs），十年內投入100億美元，與大學、國家實驗室及新創合作，投入十年以上的長期研究，時間軸拉得比美光過去任何一次都遠。德博爾總結，這是記憶體產業機會與挑戰並存的階段：產能終究會到位，但短期內最急迫的，仍是用創新與效率把手上既有的產能用到極致。

散熱就像輪胎：引擎再大、油箱再滿，輪胎沒氣，車子照樣動不了。

三大記憶體巨頭，同一個診斷

德博爾的判斷並非孤例。根據台灣科技媒體《DigiTimes》報導，在SEMICON Taiwan 2026同一場論壇上，三星電子（Samsung Electronics）、SK海力士（SK Hynix）與美光的高層一致認同，採用中介層（interposer）的傳統2.5D HBM正逼近效能天花板，產業正轉向3D垂直堆疊與晶圓級鍵合技術，以降低傳輸功耗、突破頻寬限制。《DigiTimes》另一篇報導也指出，美光正在探索「緊密耦合式DRAM」（tightly coupled DRAM）架構，其頻寬有望達到HBM的10倍以上，同時大幅降低每位元的耗能——顯示處理器效能與記憶體頻寬之間日益擴大的落差，已是整個產業共同面對的核心限制，而非美光一家的說法。

這對仰賴AI運算能力的台灣企業意味著什麼？記憶體「嚴重供給不足」不是抽象警語，而是直接反映在採購前線：搭載HBM的AI伺服器與GPU模組，交期可能持續拉長，價格也可能隨記憶體現貨吃緊而上漲。對台積電先進封裝供應鏈、雲端服務商與仰賴租用GPU算力的新創與中小企業而言，提早鎖定供應合約、預留預算彈性，會比臨時追單更務實；而散熱設計躍升為系統瓶頸，也意味著資料中心與邊緣AI設備的散熱與電力規劃，將和晶片本身的效能同等重要。