浪潮存储在北京召开的2025（第二届）产融合作大会上发布了推理加速存储产品AS3000G7。该产品旨在解决大模型推理过程中因KV Cache重复计算造成的算力浪费和时延问题，为金融、科研等领域的模型落地提供支持。面对大模型推理对GPU服务器的高度依赖以及未来智能算力规模的增长趋势，AS3000G7创新性地提出“以存代算”方案，将KV Cache集中存储于产品中，并通过高速网络缓存，避免了重复计算，显著提升了GPU资源利用率，加速了大模型的高效应用。

💡 **解决大模型推理算力瓶颈：** 浪潮存储AS3000G7是为解决大模型推理中因KV Cache重复计算导致的算力浪费和时延问题而设计的，旨在提升GPU服务器的利用效率，加速模型从实验室走向实际生产环境。

🚀 **“以存代算”创新方案：** 该产品核心创新在于“以存代算”的架构，将原本位于GPU本机内存的KV Cache通过高速网络集中缓存至AS3000G7，后续对话直接按需拉取缓存，从而彻底避免了重复计算，有效节省算力。

📈 **满足市场增长需求：** 随着IDC预测智能算力规模在未来五年增长1.7倍，且到2027年推理工作负载占比将超过70%，提升GPU利用效率的需求日益迫切，AS3000G7的推出恰逢其时，为满足市场需求提供了关键技术支撑。

快科技7月31日消息，据媒体报道，2025（第二届）产融合作大会在北京召开。会上，浪潮存储重磅发布了推理加速存储产品AS3000G7，旨在解决大模型推理中因KV Cache重复计算导致的算力浪费和时延问题，为金融、科研等领域的模型规模化落地提供关键支撑。

当前，大模型推理高度依赖昂贵的GPU服务器，其利用效率直接决定了模型从“实验室”走向“生产线”的速度。

与此同时，IDC预测未来五年智能算力规模将增长1.7倍，且到2027年，推理工作负载占比将超过70%，提升GPU利用效率的需求愈加迫切。

浪潮存储AS3000G7创新性地提出“以存代算”方案。该产品能够集中存储所有KV Cache及多轮对话结果。

其架构将KV Cache从GPU本机内存，通过高速网络缓存至AS3000G7。在后续对话中，系统可按需直接拉取缓存，彻底避免了重复计算。

这一突破性设计显著节省了算力消耗，提升了宝贵的GPU资源利用率，加速了大模型在实际场景中的高效应用。