快科技资讯 02月09日
国产飞腾CPU完整支持DeepSeek:性能可达国外平台80%
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

飞腾宣布其腾云S5000C和腾锐D3000处理器成功支持DeepSeek全系列大模型,覆盖数据中心和终端场景,性能表现出色。腾云S5000C服务器可与AI加速卡配合,实现DeepSeek模型的部署,推理速度接近国外同类产品。同时,腾锐D3000平台可本地部署DeepSeek-R1 7B蒸馏版模型,实现AI PC能力,构建安全可靠的本地知识助手。飞腾平台已实现对DeepSeek全系列大模型的端到端支持,为企业级和个人应用提供全国产化、软硬一体的解决方案。

🚀飞腾腾云S5000C处理器已成功在数据中心侧稳定运行DeepSeek-V2.5 236B大模型,并支持DeepSeek-V3、R1版本,构建了端到端的国产平台DeepSeek大模型智算环境。

💡在数据中心侧,飞腾腾云S5000C服务器搭配8块国产AI加速卡,DeepSeek-R1-Distill-Llama-70B版本的推理速度可达到每秒22个tokens,整体性能相当于国外平台性能的80%左右,完整版DeepSeek R1 671B模型也已成功部署。

🖥️在用户终端侧,基于腾锐D3000和银河麒麟V10系统的台式机,可本地部署DeepSeek-R1 7B蒸馏版模型,搭配国产推理卡,实现AI PC能力,建立安全可靠的本地知识助手。

🛡️飞腾平台已实现端到端支持DeepSeek全系列及众多开源和国产头部大模型的本地化部署,提供全国产化、软硬一体、安全、开放的全栈解决方案。

快科技2月9日消息,飞腾官方宣布,飞腾腾云S5000C、飞腾腾锐D3000处理器已成功实现对DeepSeek全系列大模型的端到端支持,覆盖数据中心和终端场景,而且性能非常出色。

其实在2024年,DeepSeek-V2.5 236B大模型就已经在飞腾腾云S5000C平台成功稳定运行。

DeepSeek-V3、R1版本发布后,飞腾第一时间在腾云S5000C、腾锐D3000平台上本地部署验证,形成整体解决方案,构建端到端的国产平台DeepSeek大模型智算环境。

在数据中心侧,腾云S5000C服务器可以与多款AI加速卡配合,实现DeepSeek蒸馏版和全量版的部署。

根据官方实测,飞腾腾云S5000C搭配8块国产的AI加速卡,蒸馏版DeepSeek-R1-Distill-Llama-70B版本的推理速度可达到每秒22个tokens,本地部署的推理效率与国外同类产品架构解决方案相当,整体性能相当于国外平台性能的80%左右。

同时,完整版DeepSeek R1 671B模型采用分布式推理框架,基于四机、32卡AI服务器集群,也已部署成功。

在用户终端侧,基于腾锐D3000、银河麒麟V10系统的台式机,可以本地部署DeepSeek-R1 7B蒸馏版模型,再搭配1张国产推理卡,就实现了AI PC能力,能够建立安全可靠的本地知识助手。

现阶段,飞腾平台已实现端到端支持DeepSeek全系列、众多开源和国产头部大模型的本地化部署,可为企业级和个人应用提供全国产化、软硬一体、性价比高、安全、开放的全栈解决方案。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

飞腾 DeepSeek 国产芯片 AI大模型 全国产化
相关文章