IT之家 02月13日
闪迪介绍高带宽闪存 HBF:单 AI 推理 GPU 存储容量即可满足前沿模型需求
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

闪迪即将完成从西部数据的拆分并独立上市,推出了有望改变AI推理GPU存储生态的前沿技术——高带宽闪存HBF。HBF采用与HBM相似的设计思路,带宽也能与之匹配,但协议有所调整以适应NAND存储。HBF通过微凸块和硅通孔技术堆叠多层核心裸晶,实现超低裸晶翘曲,目前可达16层堆叠,单堆栈容量512GB。单个AI GPU通过2.5D集成8个HBF堆栈,可拥有高达4TB的存储空间,是纯HBM方案的20倍以上,满足大型语言模型推理需求。此外,HBF和HBM还可混合配置,形成灵活的存储组合。HBF也有望成为边缘AI的重要助力,并计划构建开放标准生态系统。

🚀 闪迪推出高带宽闪存HBF,采用与HBM相似的设计理念,针对NAND存储进行了协议调整,旨在变革AI推理GPU的存储生态。

💡 HBF采用微凸块和硅通孔技术堆叠多层核心裸晶,已可实现16层堆叠,单堆栈容量高达512GB,通过2.5D集成,单个AI GPU可拥有高达4TB的存储空间。

🤝 HBF与HBM技术路线相似,可混合配置,形成灵活的存储组合,并计划构建开放标准生态系统,实现无缝系统集成。

🌐 HBF不仅适用于AI推理GPU,还有望成为边缘AI的重要助力,单颗HBF即可容纳完整的64B模型。

IT之家 2 月 13 日消息,闪迪即将在今年一季度完成从西部数据的拆分,并计划独立上市。而在当地时间本月 11 日的投资者活动上,闪迪介绍了其有望改变 AI 推理 GPU 存储生态的前沿技术高带宽闪存 HBF。

闪迪的 HBF 是一款带宽优化的 NAND 产品,采用了与 HBM 基本一致的设计思路(大量 I/O 引脚、多层堆叠)并与 HBM 共享相同电气接口,带宽也能与 HBM 匹配。不过 HBF 对协议进行了调整以适应存储介质从 DRAM 到 NAND 的切换,因此 HBF 和 HBM 不完全兼容

在 HBF 中多层核心裸晶(Core Die)采用微凸块(Micro Bump)的方式采用硅通孔(TSV)的手段堆叠在一起,整个 HBF 堆栈底部则是负责同计算芯片通信的逻辑裸晶(Logic Die)。

闪迪宣称其 HBF 技术可实现超低的裸晶翘曲,目前已可实现 16 层堆叠,单堆栈容量可达 512GB

这意味着 2.5D 集成 8 个 HBF 堆栈的单个 AI GPU 就能拥有高达 4096GB(4TB)的存储空间,是纯 HBM 方案的 20 倍以上,可满足参数约 1.8T 的前沿 LLM 模型的推理运行需求

此外由于 HBF 和 HBM 技术路线、性能参数上的相似性,AI GPU 也可混合配置两种存储,形成 3072GB HBF + 48GB HBM 等可高度自定义的组合。

除在 AI 推理 GPU 上的应用外,闪迪的 HBF 也有望成为边缘 AI 的重要助力:单颗 HBF 就可容纳完整的 64B 模型。

闪迪的 HMF 高带宽闪存开发得到了主要 AI 企业的助力,其计划推动构建 HMF 开放标准生态系统以实现无缝系统集成。

对于未来 HMF 产品,闪迪也早有规划:目标到第三代实现 2 倍容量、2 倍读取带宽和 36% 功耗降低。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

闪迪 HBF AI推理 GPU存储 高带宽闪存
相关文章