美光完成12-Hi堆栈的HBM3E高带宽内存,单颗容量36GB,用于顶尖AI、HPC计算产品,速率9.2Gbps,带宽超1.2TB/s,功耗更低,采用台积电CoWoS封装技术,支持MBIST,已提供给关键伙伴验证。
🧐美光的新一代HBM3E高带宽内存采用12-Hi堆栈,单颗容量达36GB,相比之前的8-Hi 24GB版本增大了一半。此内存将助力顶尖的AI、HPC计算产品,如NVIDIA H200、B200等加速卡,使单卡能轻松运行700亿参数的Llama2等大模型,减少对CPU的频繁调用,提升数据处理效率。
🚀该内存有着9.2Gbps的超高速率,单颗可提供超过1.2TB/s的惊人带宽。同时,其功耗比8-Hi版本更低,在性能提升的同时实现了更好的能耗控制。
💻美光12-Hi 36GB HBM3E内存采用台积电CoWoS封装技术制造,这也是NVIDIA H100、H200等普遍使用的技术,使得两者能够轻松搭配。此外,它支持完全可编程的MBIST,可模拟全速下的系统负载,便于快速完成测试验证,加快产品上市速度。
快科技9月10日消息,美光官方宣布,已经完成12-Hi堆栈的新一代HBM3E高带宽内存,单颗容量达36GB,比之前的8-Hi 24GB增大了足足一半。
它将用于顶尖的AI、HPC计算产品,比如NVIDIA H200、B200等加速卡,单卡就能轻松运行700亿参数的Llama2等大模型,不再需要频繁调用CPU,从而减少延迟、提高数据处理效率。
美光12-Hi 36GB HBM3E内存还有着9.2Gbps的超高速率,单颗就能提供超过1.2TB/s的惊人带宽,而且功耗比8-Hi版本更低。
台积电CoWoS封装技术制造,也就是NVIDIA H100、H200等普遍使用的技术,彼此可以轻松搭配。
支持完全可编程的MBIST(内存内置自测试),可以模拟全速下的系统负载,方便快速完成测试验证,加快上市。
美光表示,12-Hi HBM3E已经提供给关键伙伴进行验证。
