比年来，因为AI芯片的火热，HBM当作当中一个中枢组件北京赛车三公，在比年来的关爱热度情随事迁。对于HBM技巧的细节，不错参考半导体行业不雅察之前的著作《存储巨头竞逐HBM》。在本文中，咱们将总结HBM的崛起故事，匡助各人了解这个高带宽内存的前世今生。

以下为著作正文：

2015年6月17日，AMD中国在北京望京召成立布会。

这场发布会上，媒体的眼光全鸠集在某款重磅家具之上，它等于全新的Radeon R9 Fury X显卡，其继承代号为Fiji XT（斐济群岛）的28nm制程GPU中枢，继承4GB HBM堆叠显存，领有64个诡计单位（CU）、4096个GCN架构流处理器（SP)，中枢频率为1050MHz，单精度浮点性能达到了8.6TFlops，而HBM显存领有4096 bit带宽，等效频率1Ghz，显存总带宽达到了512GB/S，除了显存容量外，各项设置无愧于旗舰之名。

皇冠客服飞机：@seo3687

虽说这是HBM显存初度亮相，但AMD早已王人集SK海力士等厂商潜心研发多年，而Fury X当作首款搭载HBM的显卡，天然会被AMD委用厚望。

时任AMD CEO的苏姿丰示意，HBM继承堆叠式设想终了有储速率的晋升，大幅蜕变了GPU逻辑结构设想，DRAM颗粒由“平房设想”改为“楼房设想”，是以HBM显存大略带来远远超越面前GDDR5所大略提供的带宽上限，其将率先应用于高端PC商场，和英伟达（NVIDIA）张开新一轮的竞争。

针对R9 Fury X仅有4GB显存，而R9 290X新版块却配备了8GB GDDR5显存这一问题，AMD奇迹群CTO Joe Macri还有益回话示意，显存容量其实并不是问题，GDDR5不错作念到很大，但也有着很严重的虚耗，其实有好多空间都未赢得充分利用，AMD将来会久了掂量如何更高成果地利用这4GB HBM显存。

八年多时辰往时了，AMD官网上挂着的RX 7000系列全部继承GDDR6显存，当初辛贫窭苦和海力士联结多年才得来的HBM显存早已不见脚迹，惟灵验于AI诡计的加快卡还残留着当初的斗志奋斗。

而也曾的敌手英伟达，用A100和H100两块显卡，淘气拿下了万亿好意思元的市值，坐稳了AI期间的宝座，而它们用的显存，恰是AMD当初力推的HBM。

时辰再倒回2015年，AMD奇迹群CTO Joe Macri在纽约分析师大会上，接受了媒体的专访，针对初度落地应用的HBM作念了一系列回答。

Macri示意，AMD自2009年启动，就一经入辖下手HBM的研发责任，在长达7年的时辰里，AMD与SK海力士在内的繁多业界伙伴全部完成了HBM的最终落地。

他起先谈到了HBM显存的必要性，2015年主流的显存规格是GDDR5，历程多年的使用和发展一经插足了瓶颈期，热切需要新的替代技巧，简便来讲，等于GPU的功耗不可能无截止地增长下去，越来越大的高规格显存正在挤压GPU中枢的功耗空间，以前一张卡就200W功耗，显存分到30W，而之后的大容量显存却情随事迁，60W、70W、80W……再加上中枢的晋升，一张显卡往往有五六百瓦的功耗，也难怪被称之为核弹卡。

Macri合计，显存濒临的关键问题等于显存带宽，它却决于显存的位宽和频率，位宽都是GPU决定的，太高了会严重增大GPU芯单方面积和功耗，是以高端显卡一直停留在384/512位。同期，GDDR5的频率一经超越7GHz，晋升空间不大了。另外，GDDR5(包括以前的显存)都濒临着“占大地积”的问题。一大堆显存颗粒围绕在GPU芯片周围，这一经是固定模式，GDDR5再怎么缩小也无法蜕变，而且一经不可能再持续大幅度缩小了。

即使在今天来看，AMD这番对于显卡功耗的话也挑不出什么裂缝，GDDR5的频率确乎到了上限，而功耗问题也一直困扰着厂商和消费者，英伟达最新的RTX 40系显卡为了缩减功耗和资本，就对显存位宽开了刀，功耗倒是小了北京赛车三公，然则跑高分辨率游戏又变得不利索了。

事实上，行业内大部分东谈主都合计GDDR一经不成了到头了，但如故抓着鼻子持续用，因为各人的共鸣是，训导且过期的技巧总比先进但不可靠的技巧好，惟有AMD绝对蜕变了想路，毕竟这家公司从出身起，就不勤恳蜕变的勇气。

勇气是有了，不外AMD大略在显存上改造，如故极猛进度上受到了大洋此岸日本的启发。

1999年，日本超顶端电子技巧成立机构（ASET）启动资助继承TSV技巧成立的3D IC芯片，该技俩名为“高密度电子系统集成技巧研发”；2004年，尔必达启动研发TSV技巧，同期接受了来自日本政府的新动力与产业技巧成立组织(NEDO)的资助；2006年，尔必达与NEC、OKI共同成立出继承TSV技巧的堆栈8颗128Mb的DRAM架构……

什么是TSV呢？TSV全称为Through Silicon Via，是一种新式三维堆叠封装技巧，主如若将多颗芯片(或者晶圆)垂直堆叠在全部，然后在里面打孔、导通并填充金属，终了多层芯片之间的电相接。比较于传统的引线相接多芯片封装方式，TSV大略大大减少半导体设想中的引线使用量，裁汰工艺复杂度，从而晋升速率、裁汰功耗、缩小体积。

这项技巧不光能应用于DRAM规模，在NAND和CIS上也有浩荡的远景，其最早等于在闪存上得以彭胀：东芝在2007 年 4 月推出了具有 8 个堆叠芯片的 NAND 闪存芯片，随后海力士又在 2007 年 9 月推出了具有 24 个堆叠芯片的 NAND 闪存芯片。

《天地祥和》舞蹈中，汇聚舞狮、花灯、布袋戏等两岸民俗表演，反映出两岸同根同源的历史文化联结。跨界戏曲秀《华夏情》里，来自两岸的艺术家将传统京剧和现代说唱跨界融合，为传统戏曲注入新的活力。无一不显露出大陆与台湾、古典与现代的相融之美。

2009年，尔必达布告已到手成立业内第一款TSV DRAM芯片，其使用8颗1GB DDR3 SDRAM堆叠封装而来，并在2011年6月启动托付样品，TSV技巧庄重走上内存这个大舞台。

紧随其后的是韩国与好意思国厂商，2011年3月，SK海力士布告继承TSV技巧的16GB DDR3内存（40nm级）研发到手， 9月，三星电子推出基于TSV技巧的3D堆叠32GB DDR3（30nm级），10月，三星电子和好意思光科技王人集布告推出基于 TSV 技巧的羼杂内存立方(HMC) 技巧。

AMD在收购ATI后，就一经打起了显存的主意，但想要重新研发全新的显存尺度，光靠我方的GPU部门闭门觅句昭着是不够的，于是AMD拉来了几个至关要紧的联结伴伴：有3D 堆叠内存履历的韩厂海力士，作念硅中介层的联电，以及负责封装测试的日蟾光和Amkor。

HBM应时而生，前边提到了GDDR堕入到了内存带宽和功耗限度的瓶颈，而HBM的想路，等于用TSV技巧打造立体堆栈式的显存颗粒，让“平房”进化为“楼房”，同期通过硅中介层，让显存相接至GPU中枢，并封装在全部，完成显存位宽和传输速率的晋升，可谓是一举两得。

2013年，历程多年研发后，AMD和SK海力士终于推出了HBM这项全新技巧，还被定为了JESD235行业尺度，HBM1的责任频率约为1600 Mbps，漏极电源电压为1.2V，芯片密度为2Gb（4-hi），其带宽为4096bit，远超GDDR5的512bit。

除了带宽外，HBM对DRAM能耗的影响一样要紧，同期期的 R9 290X在DRAM上消费了其250W额定功耗的15-20%，即大致38-50W的功耗，算下来GDDR5每瓦功耗的带宽为10.66GB/秒，而HBM每瓦带宽超越35GB/秒，每瓦能效提高了3倍。

此外，由于GPU中枢和显存封装在了全部，还能一定进度上收缩散热的压力，正本是一大片的散热区域，浓缩至一小块，散热仅需针对这部分区域，正本动辄三电扇的设想，不错精简为双电扇致使是单电扇，变相缩小了显卡的体积。

皇冠体育

归正平正多得数不知道，无论是AMD和SK海力士，如故媒体和繁多玩家，都认定了这才是将来的显存，英伟达主导的GDDR已历程时了，要被扫进历史的垃圾堆了。

坏处嘛北京赛车三公，前文中提到的旗舰显卡仅维持4GB显存算一个，毕竟高带宽是用来跑高分辨率的，终端显存大小缩水平直让HBM失去了实质应用兴味。

而价钱更是压倒AMD的临了一根稻草：HBM1的资本已不可考，但8GB HBM2的资本约150好意思元，硅中介层资本约25好意思元，共计175好意思元，同期期的8GB GDDR5仅需52好意思元，在莫得有计划封测的情况下，HBM资本一经是GDDR的三倍傍边，一张RX Vega 56零卖价才400好意思元，一半的资本都花在了显存之上，GPU部门本来是要补贴CPU部门的，终端咫尺情况却要反过来，谁又能担戴得起呢？

因而AMD火速取消了后续显卡的HBM显存搭载辩论，老淳雄厚随着英伟达的循序走了，在RX 5000系列上平直改用了GDDR6显存，HBM在AMD的游戏显卡上二世而一火。

反不雅英伟达，却是以逸击劳，2016年4月，英伟达发布了Tesla P100显卡，内置16GB HBM2显存，带宽可达720GB/s，具备21 Teraflops的峰值东谈主工智能运算性能。

英伟达在HBM上并未像AMD一样深耕多年，怎么倏得反手等于一张搭载了HBM2的显卡，对AMD发起了反攻的军号呢？

背后的原因其实还颇有些复杂，Tesla P100显卡所用的HBM2显存，并非来自于AMD的联结伴伴SK海力士，而是隔邻的三星电子，一样是韩厂的它，在基于TSV技巧的3D堆叠内存方面的成立并不失态于海力士若干，在奋发图强的情况下，很快就缩小了差距，而英伟达正有成立HBM相关显卡之意，二者一拍即合。

至于AMD与联电、日蟾光、Amkor等好拦阻易顾问的硅中介层与2.5D封测，英伟达则是找到了业界的另一个大佬——台积电，看上了它旗下的先进封装技巧CoWoS（Chip-on-Wafer-on-Substrate），其早在2011年就推出了这项技巧，并在2012年起先应用于Xilinx的FPGA上，二者一样是一拍即合。

此后的故事无需赘言，英伟达从P100到V100，从A100再到H100，连气儿数张高算力的显卡简直成为了AI测验中的必备利器，出货量节节攀升，致使超越了传统的游戏显卡业务，而HBM也在其中大放光彩，成为了嵌入着的最瞩想法一颗对持。

起了个大早，赶了个晚集，是对AMD在HBM上的最佳抽象，既莫得凭借HBM在游戏显卡商场中反杀英伟达，反而被英伟达利用HBM平安了AI诡计规模的地位，白白被别东谈主摘了熟透甜好意思的桃子。

在AMD和英伟达这两家GPU厂商争锋相对之际，三家起先的内存厂商也没闲着，启动了在HBM商场的你追我赶的历程。

2013年，SK海力士布告到手研发HBM1，界说了这一显存尺度，但它和AMD一样，好拦阻易得来的上风却没保持得太久.

2016年1月，三星布告启动量产4GB HBM2 DRAM，并在统一年内坐褥8GB HBM2 DRAM，其后者居上，完成了对本国同业的赶超，与HBM1比较，显存带宽终知道翻倍。

2017年下半年，SK海力士的HBM2缓不应急，终于布告量产；2018年1月，三星布告启动量产第二代8GB HBM2“Aquabolt”。

2018年末，JEDEC推出HBM2E表率，以维持加多的带宽和容量。当传输速率高潮到每管脚3.6Gbps时，HBM2E不错终了每堆栈461GB/s的内存带宽。此外，HBM2E维持最多12个DRAM的堆栈，内存容量高达每堆栈24GB。与HBM2比较，HBM2E具有技巧更先进、应用范围更平凡、速率更快、容量更大等秉性。

2019年8月，SK海力士布告到手研发出新一代“HBM2E”；2020年2月，三星也庄重布告推出其16GB HBM2E家具“Flashbolt”，于2020年上半年启动量产。

2022年1月，JEDEC组织庄重发布了新一代高带宽内存HBM3的尺度表率，持续在存储密度、带宽、通谈、可靠性、能效等各个层面进行扩充升级，其传输数据率在HBM2基础上再次翻番，每个引脚的传输率为6.4Gbps，配合1024-bit位宽，单颗最高带宽可达819GB/s。

而SK海力士早在2021年10月就发布了全球首款HBM3，并于2022年6月庄重量产，供货英伟达，打败了三星，再度于HBM上拿到了技巧和商场上风。

三星天然也出头出头，在它发布的阶梯图中，2022年HBM3技巧一经量产，2023年下半年启动大规模坐褥，预测2024年终了接口速率高达7.2Gbps的下一代HBM技巧——HBM3p，将数据传输率进一步晋升10%，从而将堆叠的总带宽晋升到5TB/s以上。

讲到这里，各人未免会心生疑问，都说了是三家天职存，这三星和海力士加一块就两家啊，还都是韩国的，另外一家跑哪去了呢？

身在好意思国的好意思光天然莫得无情显存商场，当作尔必达的收购者，它对于3D堆叠的TSV技巧怎么也不会目生，致使在HBM发布之前，还有不少TSV技巧方面的上风。

然则好意思光却没随着AMD或英伟达去饱读捣HBM技巧，而是回头选择了英特尔，搞出了HMC（羼杂内存）技巧，天然也使用了TSV，但它有我方的限度器芯片，何况富饶封装在PCB基板之上，和HBM毫不相通，也富饶不兼容。

2011年9月，好意思光庄重布告了第一代HMC，并在2013年9月量产了第二代HMC，但反应者却稀稀拉拉，第一个继承 HMC 内存的处理器是富士通的SPARC64 XIfx，其搭载于2015 年推出的富士通PRIMEHPC FX100 超算，尔后就鲜见于各种家具中。

随着2018年8月，好意思光布告庄重废弃HMC后，才匆急促忙转向GDDR6和HBM家具的研发，幸亏3D堆叠技巧的基础底细还在哪里，不至于说富饶过期于两个韩厂。2020年，好意思光庄重示意将启动提供HBM2家具，用于高性能显卡，处事器处理器等家具，其在财报中预测，将在2024年第一季度量产HBM3家具，最终赶上咫尺起先的竞争敌手。

AI大潮仍然席卷全球，而英伟达H100和A100显卡依旧火热，HBM当作内存商场的新蛋糕，却是最鲜好意思的一块。芯片行业商讨公司 SemiAnalysis 示意，HBM 的价钱大致是尺度 DRAM 芯片的五倍，为制造商带来了更大的总利润。咫尺，HBM 占全球内存收入的比例不到 5%，但 SemiAnalysis 技俩预测到 2026 年将占到总收入的 20% 以上。

这块鲜好意思的蛋糕大部分留给了先驱，集邦商讨探访涌现，2022年三大原厂HBM市占率隔离为SK海力士50%、三星约40%、好意思光约10%，十成里面占一成，好意思光自认为家具不逊于韩厂，但商场却从不会为某个骄慢技巧起先的厂商诟如不闻。

当初尔必达的坂本幸雄认为日本半导体输东谈主不输阵，时任好意思光CEO莫罗特亚在接受采访时也示意，AI 规模不光有 HBM，还包含高密度 DDR5、好意思光定制LP DRAM以及一部分图形内存，抽象来说，等于输了HBM但还没在AI上认输。

倘若让这俩CEO总结失败的警告，就怕只可发出一句“时也，命也，运也，非吾之所能也”之泪的感触吧，输天然是不可能输的，好意思光和尔必达即使倒闭也不会说技巧不成，把罪状归罪于商场，落了个孤单淘气。

再回偏执来看，AMD 在2015年发布R9 Fury X时的判断错了吗？天然没错，内存带宽竟然凿确到了瓶颈，从GDDR5到GDDR6X简直莫得跨越，但在游戏显卡，不错继承大型缓存当作帧缓冲区，让资本较低的GDDR接着启程，但数据中心和AI加快卡的带宽问题却非HBM不可，资本在这一规模反倒成了最不起眼的问题。

如今AMD调转船头，再战AI规模，但愿HBM能让他们在这个商场升空。

本文作家：邵逸琦北京赛车三公，着手：半导体行业不雅察，原文标题：《HBM的崛起！》