IT之家 04月03日
百度飞桨框架 3.0 正式版发布,五大特性专为大模型设计
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

百度飞桨框架3.0正式发布,针对大模型时代的需求进行了全面优化,旨在提升训练效率、推理性能,并降低开发成本。该框架在动静统一自动并行、训推一体设计、科学智能加速、运算速度提升以及硬件适配等方面取得了显著进展。飞桨3.0支持文心4.5、DeepSeek V3/R1等主流大模型,并已适配超过60个芯片系列,构建了“一次开发,全栈部署”的生态体系。目前,飞桨文心生态已聚集了大量开发者和企事业单位,为人工智能领域的发展提供了有力支持。

🚀 **动静统一自动并行技术:** 飞桨3.0通过该技术降低大模型开发训练成本,使算法创新成为核心。这一技术能够帮助开发者更专注于算法本身,而非底层框架的复杂性。

💡 **训推一体设计理念:** 飞桨3.0打破了训练与推理的割裂状态,通过全方位深度优化,支持众多开源大模型进行高性能推理。例如,在DeepSeek V3/R1上,飞桨框架3.0展现了突出的性能表现,并且能够支持文心4.5、文心X1等主流大模型。

🔬 **科学智能领域加速:** 飞桨3.0提升了微分方程求解速度,通过高阶自动微分和神经网络编译器技术,加速了微分方程求解,速度比PyTorch开启编译器优化后的2.6版本平均快115%。飞桨还适配了DeepXDE、Modulus等主流开源科学计算工具,并成为DeepXDE的默认推荐后端,展现了在气象预测、生命科学、航空航天等领域的应用潜力。

⚡ **运算速度显著提升:** 借助创新研制的神经网络编译器CINN,飞桨3.0实现了性能的显著提升。在A100平台上RMSNorm算子进行性能测试,相较于采用Python开发接口组合实现的方式,经过编译优化后的算子运行速度提升了4倍。使用超过60个模型进行实验,使用CINN编译器后超60%模型有显著性能提升,平均提升达27.4%。

⚙️ **多芯片统一适配方案:** 飞桨框架3.0推出了多芯片统一适配方案,构建“一次开发,全栈部署”的生态体系。目前已适配超过60个芯片系列,覆盖训练集群、自动驾驶、智能终端等场景。开发者只需编写一份代码,就可以让程序在不同芯片上顺畅运行,轻松实现业务的跨芯片迁移。

IT之家 4 月 3 日消息,百度本月发布飞桨框架 3.0 正式版,五大特性专为大模型设计

作为大模型时代的 Infra“基础设施”,深度学习框架的重要性愈发凸显,大模型训练、推理等任务都离不开深度学习框架的优化与支撑。

飞桨框架 3.0 号称从设计理念上实现了从底层硬件适配到顶层开发体验的全面进化,IT之家附具体介绍如下:

飞桨提出的“动静统一自动并行”技术,大幅降低大模型开发训练成本,让算法创新回归核心价值创造;

“训推一体”设计理念打破了训练与推理的割裂状态,通过全方位深度优化,飞桨框架 3.0 能够支持众多开源大模型进行高性能推理,并在 DeepSeek V3 / R1 上取得了突出的性能表现。目前,飞桨框架 3.0 支持文心 4.5、文心 X1 等多款主流大模型,DeepSeek-R1 满血版单机部署吞吐提升一倍。通过技术算法创新,飞桨让低时延、高吞吐、低算力成本的推理服务成为了现实;

在科学智能领域,飞桨框架 3.0 锚定科学前沿探索需要,提升微分方程求解速度。通过高阶自动微分和神经网络编译器技术,加速微分方程求解,速度比 PyTorch 开启编译器优化后的 2.6 版本平均快 115%。飞桨还对 DeepXDE、Modulus 等主流开源科学计算工具进行了广泛适配,并成为 DeepXDE 的默认推荐后端。其展现的科学智能潜力在气象预测、生命科学、航空航天等领域具有广泛的应用价值

在运算速度上,借助创新研制的神经网络编译器 CINN,实现性能的显著提升,在 A100 平台上 RMSNorm 算子进行性能测试,相较于采用 Python 开发接口组合实现的方式,经过编译优化后的算子运行速度提升了 4 倍;使用超过 60 个模型进行实验,使用 CINN 编译器后超 60% 模型有显著性能提升,平均提升达 27.4%

在硬件适配方面,飞桨框架 3.0 推出了多芯片统一适配方案,构建“一次开发,全栈部署”的生态体系。目前已适配超过 60 个芯片系列,覆盖训练集群、自动驾驶、智能终端等场景,开发者只需编写一份代码,就可以让程序在不同芯片上顺畅运行,轻松实现业务的跨芯片迁移。

截至 2024 年 10 月,飞桨文心生态已凝聚 1808 万开发者,服务了 43 万家企事业单位,创建了 101 万个模型。

飞桨框架 3.0 正式版本已面向开发者开放,并且兼容 2.0 版本的开发接口。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

飞桨 深度学习框架 大模型 AI
相关文章