36kr-科技 2024年09月20日
神州数码联合华为打造昇腾能力中心,聚焦边缘推理应用 | 最前线
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

神州数码宣布与华为合作打造昇腾能力中心,该中心集AI芯片销售、软硬件开发于一体,可满足不同行业AI推理场景需求。随着模型发展,推理算力需求增长,神州数码此举旨在提供设计能力,缩短客户产品上市时间,并覆盖中小型客户。

🎯神州数码与华为合作的昇腾能力中心将AI芯片销售、软硬件开发集为一体,能针对不同行业AI推理场景需求,提供AI产品开发环境,助力各行业的智能化发展。

💡大模型对算力的需求体现在预训练、推理、调优三部分,推理可定位模型潜在问题提升性能,且随着模型庞大,对推理算力需求持续增长,推理工作负载占比将不断攀升。

🚀以前推理以中心推理为主,现在更多在边缘侧,对算力需求更大,神州数码计划与华为合作推出昇腾能力中心,提供软硬件设计及应用迁移适配调优能力,缩短产品上市时间。

🌟许多客户有本地建设推理中心的需求,华为难以满足所有客户应用需求,神州数码的昇腾能力中心可帮助覆盖中小型客户,这是其对比友商的最大差异点与优势。

文 | 田哲

编辑 | 苏建勋

9月19日,神州数码宣布合作华为打造基于华为昇腾310处理器的昇腾能力中心,该能力中心将AI芯片销售、软硬件开发于一体,可针对不同行业的AI推理场景需求,提供AI产品开发环境。

大模型对算力需求整体体现在预训练、推理、调优三部分,其中通过推理,开发人员可定位模型中潜在问题,提升模型性能。

随着模型越发庞大,对推理算力需求也将持续增长。华为昇腾计算整机业务总监胡宣春表示:“AI正在从感知识别迈向内容生成,从专用AI模型转向更为广泛的通用AI模型。AI应用的爆发式增长,可能带动AI推理算力需求激增至训练算力的百倍。”

IDC 数据显示,我国23H1训练工作负载的服务器占比达到 49.4%,预计全年的占比将达到 58.7%。随着训练模型的完善与成熟,模型和应用产品逐步投入生产,推理端的人工智能服务器占比将随之攀升,预计2027 年,用于推理的工作负载将达到72.6%。 

神州数码信创业务集团副总裁、研发中心总经理周川告诉36氪,以前的推理以中心推理为主,而现在的推理应用更多在边缘侧,后者对算力需求相对更大。因此有必要推出更大算力、基于边缘推理应用的参考设计方案。

因此,神州鲲泰计划与华为合作推出昇腾能力中心,为不同行业的客户提供产品软硬件的设计能力以及应用迁移适配调优的能力,缩短客户产品上市时间。

公开资料显示,神州数码集团于2019年加入华为鲲鹏生态,2020年发布自有品牌“神州鲲泰”,已推出数据计算、终端、DCN数据通信、KunTai数据通信四条产品线。

周川认为,由于基础设施不断建设,训练模型最终会变成应用落地,训练的高峰发展期可能即将结束。由于许多客户的数据十分敏感,不能流通,因此有着本地建设推理中心的推理需求,推理侧将存在大量建设、应用机会。

他表示,不同行业的推理应用形态不一,华为难以支撑所有客户应用需求,神州数码的昇腾能力中心可以帮助华为覆盖中小型客户,这是神州数码对比友商的最大差异点与优势。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

神州数码 华为 昇腾能力中心 AI推理 算力需求
相关文章