美光总裁警告:AI扩张正卡在内存散热瓶颈
美光总裁兼首席技术与产品官德博尔在SEMICON Taiwan 2026大师论坛上表示,AI正以内存的速度扩张,而散热已经取代带宽本身,成为决定AI系统性能上限的关键瓶颈。

美光科技(Micron Technology)总裁兼首席技术与产品官德博尔(Scott J. DeBoer)9月2日在台北南港展览馆举行的2026国际半导体展(SEMICON Taiwan)大师论坛暨全球生态系高峰会上,以《From Silicon Innovation to System Intelligence: Architecting the Next Wave of AI》为题发表演讲,抛出一句为全场定调的判断:AI正以内存的速度在扩张。他提醒,这几年的技术进步确实让每一个比特跑出更多效率、让固定容量榨出更多带宽,但要支撑全球数据中心的建设需求仍远远不够——内存在未来数年仍将严重供不应求。
带宽、容量、散热:AI系统的铁三角
德博尔用一个汽车比喻拆解内存系统的三个维度——他坦言这个比喻是演讲当天早上才想出来的。带宽是引擎的马力,必须持续被推高,才能交付人们如今已视为理所当然的算力提升;容量是油箱,带宽不足时系统本就不需要大容量,但带宽一路走高,能匹配这些马力的容量必然同步放大,形成一个自我实现的循环。第三项散热则是轮胎:引擎再大、油箱再满,轮胎没气,车子照样走不动。他形容过去一年散热管理的变化极为剧烈,随着带宽在合作伙伴的协同下不断被拉高,如何把热量从系统中导出,反而成为决定带宽最终能跑多快的限制条件——三者必须同时到位,这才是「AI以内存的速度扩张」的真正含义。
德博尔认为,内存领域自身版本的摩尔定律仍走在指数曲线上。以他在半导体行业30年的经验衡量,DRAM已经历15个制程节点,增长不再全靠几何微缩,更多来自架构层面的重构,未来几年还会再经历数次类似跃迁。尖端DRAM的密度已经达到什么程度?一根人类头发的直径范围内,可以放下1500个以上的DRAM电容器。他把同样的进步幅度换算到汽车上:1995年一辆270马力、售价6万美元、每加仑跑23英里的保时捷,若照DRAM的演化轨迹发展,今天将拥有接近300万马力、售价5美元、每加仑可跑23000英里。
先进封装与混合键合卡住的三道关卡
- 先进封装的横向扩展压力:内存要把越来越多的信息送进逻辑芯片,在有限的平方毫米面积内扩充输入输出(I/O)连接点的压力只会更大。晶圆对晶圆键合已在NAND中落地,未来几年将导入DRAM,但可制造性与制程控制仍需大幅提升。
- 混合键合的量产成熟度——这才是真正的瓶颈:混合键合在整个行业的应用规模仍相对有限,必须在裸片对晶圆、堆叠、量测与键合物理等环节大幅成熟,才能在超高产量下稳定实现可靠键合,而这正是当前大规模量产(HVM)能力明显滞后的一环。
- 散热从辅助设计变成结构设计:现代系统的逻辑发热并不均匀,DRAM必须依据客户与应用做定制设计,在裸片与三维堆叠内部构建实体散热通路,把热量从底层逻辑一路导到顶部的冷却界面——德博尔称这是未来四到五年HBM4E、HBM5、HBM5E乃至垂直内存产品带宽路线图的根本挑战。
在数据中心,HBM位于性能金字塔的顶端,但整套系统所依赖的远不止HBM:高密度DDR内存模组与低功耗DRAM模组扮演的角色比过去更大、也更复杂,负责把模型搬进搬出,并承接键值缓存(KV cache)这类巨量内存需求。出乎多数NAND厂商意料的是,高性能SSD在数据中心中被大规模采用——四五年前,NAND看起来还是一门糟糕的生意,如今却翻转成充满技术创新的高性能领域。在边缘端,机器人与车用应用同样需要高带宽,但功耗上限与成本结构与数据中心完全不同,让本已严重短缺的DRAM供给压力进一步升高。美光已公开表示未来十年将投入约2500亿美元,用于在美国、台湾、新加坡与日本扩建晶圆制造设施;但德博尔强调,当天演讲谈的并非扩产本身,短期内真正紧迫的,是用创新与效率把现有产能用好。
内存决定AI代币的成本
德博尔指出,许多系统瓶颈短期内不会改变,能够优化的空间主要集中在内存带宽,以及如何更高效地使用这些内存。过去几年AI代币经济学(Tokenomics)成本的下降,主要驱动力正是HBM带宽的跃升——从HBM3E到即将接棒的HBM4与HBM4E;同一条曲线也延伸到手机、后手机时代设备与车用领域。下一步是垂直HBM(Vertical HBM),直接把HBM堆叠在逻辑芯片之上,容量较小但带宽极高,适合对带宽极度敏感的推理场景,但这项技术同样要跨过混合键合与先进封装的门槛。把内存移得更靠近计算单元、缩短物理距离,也在压低HBM与逻辑之间的功耗代价。至于光互连,除了机柜对机柜的应用,德博尔更关注HBM到GPU之间的芯片对芯片连接,但他也坦言这是更艰难、时间线更长的挑战。封装端塞入更多HBM、更多GPU、做更大的系统,同样能拉低代币成本;DRAM本身也将走向3D结构,虽不会像3D NAND那样一次翻倍容量,但足以支撑未来十年的比特增长。
美光同步扩大其聚焦AI的创投基金规模,希望更早接触到新创公司的机会,并于8月下旬宣布成立美光研究院(Micron Research Labs),未来十年将投入100亿美元,与大学、国家实验室及初创企业合作,投入十年以上的长期研究,时间跨度远超美光过去的任何一次投入。德博尔总结道,这是内存行业机遇与挑战并存的阶段:产能终究会到位,但短期内最紧迫的,仍是用创新与效率把手中现有的产能用到极致。
散热就像轮胎:引擎再大、油箱再满,轮胎没气,车子照样走不动。
三大内存巨头,同一个诊断
德博尔的判断并非孤例。据台湾科技媒体《DigiTimes》报道,在SEMICON Taiwan 2026同一场论坛上,三星电子(Samsung Electronics)与SK海力士(SK Hynix)的高管与美光一致认为,采用中介层(interposer)的传统2.5D HBM正逼近性能天花板,行业正转向3D垂直堆叠与晶圆级键合技术,以降低传输功耗、突破带宽限制。《DigiTimes》另一篇报道还指出,美光正在探索「紧密耦合式DRAM」(tightly coupled DRAM)架构,其带宽有望达到HBM的10倍以上,同时大幅降低每比特能耗——这表明处理器性能与内存带宽之间日益扩大的差距,已成为整个行业共同面对的核心制约,而不只是美光一家的说法。
这对依赖AI算力的中国企业意味着什么?内存「严重供不应求」不是抽象的警告,而是直接体现在采购一线:搭载HBM的AI服务器与GPU模组,交付周期可能持续拉长,价格也可能随内存现货吃紧而上涨。对国内云服务商、依赖租用GPU算力的AI初创企业与中小企业而言,提前锁定供应合约、为成本上涨预留预算弹性,会比临时追单更为务实;而散热设计跃升为系统瓶颈,也意味着数据中心与边缘AI设备的散热与电力规划,将和芯片本身的性能同等重要。
信息来源
- 2026 國際半導體展直擊:驅動 AI 經濟的隱形引擎,美光總裁德博爾拆解記憶體撞上的算力與散熱極限INSIDE · 2026年9月2日
- DRAM giants target 3D stacking to break memory wall and power bottlenecksDigiTimes · 2026年9月2日
- Micron says tightly coupled DRAM could deliver more than 10x HBM bandwidthDigiTimes · 2026年9月2日



