韩国科学技术院学者Kim Joungho分享了HBM内存技术的长期发展路线图，从HBM4到HBM8，详细阐述了各代HBM的技术重点和演进方向。HBM内存的I/O数量、堆叠层数、单层容量和引脚速率都将逐步提高。HBM4将集成LPDDR控制器，HBM5引入近内存计算区块，HBM6采用双塔结构。HBM7将构建多级存储系统并引入嵌入式冷却系统。HBM8则将实现芯片复合体正反两面的存储扩展和紧密集成的散热方案，旨在提升性能、能效和散热效率。

💡HBM4：传统的HBM堆栈仅包含定制DRAM芯片，而HBM4有望在HBM Base Die中集成LPDDR控制器，从而充分利用闲置的容量和带宽资源，为HBM存储系统增加新的层次。

🚀HBM5：HBM5将引入NMC近内存计算区块，旨在减少HBM与AI xPU之间的传输带宽，提高计算操作的本地化程度，进而改进系统性能和能效。

🏗️HBM6：HBM6有望采用双塔结构，即单一大型Base Die配套2个DRAM堆栈。同时，NMC单元也将位于堆栈下方。此外，通过玻璃基板构造硅-玻璃复合中介层，可以实现多个GPU模块的一体化。

⚙️HBM7：HBM7将重点关注多级存储系统，该系统由HBM和HBF等构成，并通过在DRAM堆栈中嵌入多功能桥片来改善信号和添加额外功能。此外，HBM7还将引入嵌入式冷却系统以解决高性能带来的发热问题。

🔮HBM8：在HBM8中，芯片复合体将不仅利用封装的一面容纳HBM内存，背面也将用于存储扩展，并且散热系统将实现紧密集成。

IT之家 6 月 13 日消息，KAIST 韩国科学技术院下属 Teralab 的学者 Kim Joungho 被部分业内人士称为“HBM 之父”，他在本月 11 日的讲座中介绍了从 HBM4 直到 HBM8 的长期路线图。

这位教授认为，HBM 内存的 I/O 数目将在 HBM5、HBM7、HBM8 三次倍增，堆叠层数、单层容量、引脚速率也将步步提高，键合技术将从现有的微凸块向无凸块铜对铜直接键合（混合键合）过渡。而在这一代际演进中，HBM 堆栈的发热同样会逐步增长，带来更高的散热需求。

Kim Joungho 还分享了他认为的未来几代 HBM 内存技术重点：

HBM4

传统的 HBM 堆栈仅包含定制 DRAM 芯片，而在 HBM 系统中 HBM Base Die 有望集成 LPDDR 控制器，为 HBM 存储系统添加一个新的层次，有效利用传统模式下闲置的容量和带宽资源。

HBM5

来到 HBM5，此时的存储堆栈有望包含 NMC 近内存计算区块，这意味着能减小 HBM 同 AI xPU 间的传输带宽，提升计算操作的本地化程度，改进系统性能与能效。

HBM6

目前的 HBM 都是 1 个 Base Die 对应 1 个 DRAM 堆栈的单塔结构，而到 HBM6 有望以单一大型 Base Die 配套 2 个 DRAM 堆栈，形成双塔的物理造型；同时 NMC 单元也会来到堆栈的下方。

另一方面，现有的 xPU-HBM 2.5D 封装采用的是硅中介层 / 硅桥连接，而这限制了超大型芯片复合体的扩展能力，以玻璃基板构造硅-玻璃复合中介层可实现多个 GPU 模块的一体化。

HBM7

对于 HBM7 而言，两大重点则是由 HBM 和 HBF 等构成的多级存储系统，以及通过在 DRAM 堆栈中嵌入多功能桥片改善信号和添加额外功能。

此外，HBM7 也将引入嵌入式冷却系统以解决高性能带来的发热问题。

HBM8

在 Kim Joungho 的最遥远展望 HBM8 上，他认为此时芯片复合体将不仅利用整个封装的一面去容纳 HBM 内存，背面也将用于存储扩展，同时散热也会紧密集成。