IT之家 02月06日
华为 ModelEngine AI 平台支持 DeepSeek 全系列本地部署
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

华为ModelEngine AI平台宣布全面支持DeepSeek大模型R1 & V3和蒸馏系列模型的本地部署与优化。ModelEngine是华为旗下的大模型训练、推理和应用开发平台,提供从数据预处理到模型训练、优化及部署的一站式服务。通过昇腾AI芯片,ModelEngine优化推理框架和MoE存算协同,实现推理高并发和低时延。用户可以通过ModelEngine体验DeepSeek的推理能力,并享受灵活部署和企业级稳定性。此外,华为DCS AI全栈解决方案近期将上线DeepSeek体验环境。

🚀 ModelEngine全面支持DeepSeek系列模型R1 & V3 671B以及蒸馏系列模型,开发者可通过ModelEngine实现“一键部署”,省去硬件选型、兼容性验证和环境配置等繁琐步骤,大幅降低企业AI应用门槛。

🛡️ ModelEngine提供负载均衡、模型安全接入、多用户配额管理等高阶特性,支持大规模生产环境下的稳定运行,确保企业级稳定性。某证券公司引入DCS AI全栈解决方案后,运维成本降低 42%。

⚙️ ModelEngine是华为DCS(Data Center Stack)全栈的AI训推全流程工具链,采用AI流式编程框架,提供从数据处理、知识生成,到模型微调和部署,以及RAG应用开发、应用部署的全流程AI开发体验。

IT之家 2 月 6 日消息,华为技术有限公司今日发文宣布,旗下 ModelEngine AI 平台全面支持 DeepSeek 大模型 R1 & V3 和蒸馏系列模型的本地部署与优化。

据介绍,华为 ModelEngine 是大模型训练、推理和应用开发的 AI 平台,提供从数据预处理到模型训练、优化及部署的一站式服务。此次 ModelEngine 基于昇腾 AI 芯片,通过推理框架优化和 MoE 存算协同,提供动态换入换出和全局统一缓存,实现推理高并发和低时延,用户通过 ModelEngine 体验 DeepSeek 的推理能力。特性如下:

灵活部署:ModelEngine 全面支持 DeepSeek 系列模型 R1 & V3 671B 以及蒸馏系列模型,开发者可通过 ModelEngine 实现“一键部署”,省去硬件选型、兼容性验证和环境配置等繁琐步骤,大幅降低企业 AI 应用门槛。此外,ModelEngine 通过其高度的开放性和模块化设计,极大地缩短了 DeepSeek 的本地部署时间。

企业级稳定性:ModelEngine 提供负载均衡、模型安全接入、多用户配额管理等高阶特性,支持大规模生产环境下的稳定运行。某证券公司引入 DCS AI 全栈解决方案后,运维成本降低 42%

另外,华为官方表示,DCS AI 全栈解决方案近期将上线 DeepSeek 体验环境。

IT之家注:ModelEngine 是华为 DCS(Data Center Stack)全栈的 AI 训推全流程工具链,业界首个采用 AI 流式编程框架,提供从数据处理、知识生成,到模型微调和部署,以及 RAG 应用开发、应用部署,为数据处理工程师、模型工程师、应用开发者提供开箱即用的全流程 AI 开发体验。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

华为ModelEngine DeepSeek大模型 AI平台
相关文章