本文聚焦于NVIDIA及其HBM内存供应商在AI服务器领域的技术发展和未来规划。NVIDIA计划在未来三代AI服务器中持续升级HBM内存，从HBM3E到HBM5，性能不断提升。同时，SK海力士、三星和美光三大原厂也纷纷展示了各自的HBM内存发展蓝图，重点在于HBM4和HBM4E的研发。SK海力士发布了世界首款48GB大容量HBM4内存，而三星则详细介绍了HBM4和HBM4E的参数和规划。文章还指出，HBM内存主要应用于AI服务器，中国厂商在HBM技术方面仍需努力，但已取得一定进展。

🚀 NVIDIA的AI服务器规划：NVIDIA计划在未来三代AI服务器中采用不同代际的HBM内存。GB300芯片的Blackwell Ultra NVL72将采用HBM3E内存，Vera Rubin NVL144升级至HBM4内存，Rubin Ultra NVL576升级为HBM4E内存，而2028年的Feynman架构有望首次采用HBM5内存。

💡 SK海力士的HBM4技术：SK海力士作为HBM内存的领袖，推出了48GB大容量的HBM4内存，采用单Die 24Gb(3GB)设计，16颗堆叠，数据传输率8Gbps，IO位宽2048-bit，带宽达到2TB/s。

✨ 三星的HBM4和HBM4E规划：三星展示了HBM4内存，单颗容量有36GB(12堆叠)和24GB(8堆叠)两种，数据传输率最高9.2Gbps，带宽最高2.3TB/s。HBM4E规划单Die容量提高到32Gb(4GB)，支持8/12/16堆叠，单颗容量最大可达64GB，数据传输率提高到10Gbps，带宽可达2.56TB/s。

🤔 HBM内存的应用与中国厂商的进展：HBM内存主要应用于AI服务器，不太可能下放到消费级显卡。中国厂商已在DRAM内存和NAND闪存方面取得进展，部分厂商已推出第二代HBM2并供货，与国产AI GPU加速器搭配使用。

NVIDIA近日宣布了未来三代AI服务器，不但规格、性能越来越强，HBM内存也是同步升级，容量、频率、带宽都稳步前进。其中，基于GB300芯片的Blackwell Ultra NVL72今年下半年发布，继续采用HBM3E内存；明年下半年的Vera Rubin NVL144升级为下一代HBM4内存；后年下半年的Rubin Ultra NVL576继续升级为加强版HBM4E内存；而到了2028年的Feynman全新架构有望首次采用HBM5内存。

与此同时，SK海力士、三星、美光三大原厂也纷纷展示了自己的HBM内存发展规划，包括HBM4、HBM4e。

SK海力士如今作为HBM内存的领袖，直接摆出了一颗48GB大容量的HBM4，是世界第一颗，也是最强的一颗。

它采用单Die 24Gb(3GB)的设计，16Hi也就是16颗堆叠而成，数据传输率8Gbps，IO位宽2048-bit，也就是一颗的带宽就有2TB/s。

美光的没有做过多介绍，只是说性能比HBM3e提升了50％，而量产时间安排在2026年。

三星的资料最为详尽，不但有具体参数，还有规划路线图。

三星这次展示的HBM4密度也是单Die 24Gb，单颗容量则有36GB(12堆叠)、24GB(8堆叠)两种，不如SK海力士。

不过，数据传输率最高9.2Gbps，带宽最高2.3TB/s。

它采用MPGA封装，尺寸12.8x11毫米，堆叠高度775微米，能效为每bit 2.3PJ。

对于下代HBM4E，三星规划单Die容量提高到32Gb(4GB)，支持8/12/16堆叠，因此单颗容量最大可以做到64GB，而且高度维持不变。

同时数据传输率提高到10Gbps，继续搭配2048-bit位宽，带宽可达2.56TB/s。

HBM内存现阶段和可预见的未来都会主要用于AI服务器，应该是不会下放到消费级显卡了，当年的AMD Fiji、Vega恐怕成为绝唱。

目前，中国在DRAM内存、NAND闪存方面都已经基本追上了国际领先水平或者差距不大，HBM则还需要大大努力。

消息称，多家中国厂商已经搞定了第二代HBM2，并已供货给客户，搭配国产AI GPU加速器，倒也相得益彰。