富途牛牛头条 02月28日
DeepSeek開源周第五天:Fire-Flyer,解鎖AI存儲新方式!
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

DeepSeek开源了专为高性能计算打造的Fire-Flyer分布式文件系统(3FS),旨在解决AI训练和推理工作负载中“高吞吐写入”与“低延迟读取”的难题。3FS采用解耦架构,整合数千块SSD的吞吐量与数百个存储节点的网络带宽,实现应用程序以“位置无关”的方式访问存储资源。通过分配查询(CRAQ)实现链式复制,确保数据强一致性,避免数据混乱。在性能上,3FS在180节点集群中实现6.6TiB/s总读取吞吐量,25节点GraySort测试中达到3.66TiB/分钟吞吐量,单节点KVCache查询峰值吞吐量超40+GiB/s。Fire-Flyer可视为一个强大的共享存储层,专门解决AI数据“又急又多”的需求。

🚀 Fire-Flyer (3FS) 是DeepSeek开源的分布式文件系统,专为高性能计算设计,旨在解决AI训练和推理中高吞吐写入和低延迟读取的挑战。

🏗️ 3FS采用解耦架构,将数千SSD的吞吐量与数百存储节点的网络带宽结合,允许应用程序以位置无关的方式访问存储,类似整合高速传送带和运输车队的大仓库。

🔒 3FS通过分配查询(CRAQ)实现链式复制,确保数据强一致性,保证所有节点获取最新数据,避免数据版本混乱,简化应用代码并易于推理。

📈 在性能方面,3FS在180节点集群中实现6.6TiB/s的总读取吞吐量,并在25节点GraySort基准测试中达到3.66TiB/分钟的吞吐量,单节点KVCache查询峰值吞吐量超过40GiB/s。

来源:华尔街见闻

Fire-Flyer是专为高性能计算打造的高性能分布式文件系统,旨在应对AI训练和推理工作负载中的挑战,解决“高吞吐写入”与“低延迟读取”难兼顾的痛点。

开源第五弹!DeepSeek宣布开源Fire-Flyer文件系统(3FS),实现高速数据访问。

Fire-Flyer是专为高性能计算打造的高性能分布式文件系统,旨在应对AI训练和推理工作负载中的挑战,解决“高吞吐写入”与“低延迟读取”难兼顾的痛点。

据介绍,3FS采用了解耦架构(Disaggregated Architecture),将数千块SSD的吞吐量与数百个存储节点的网络带宽结合起来,使得应用程序可以以“位置无关”的方式访问存储资源。

举例来说,解耦架构类似于把成千上万个“高速传送带”(SSD硬盘)和“运输车队”(网络带宽)整合成一个大仓库,程序如果要存取数据,就像在手机下单快递,完全不用关心货物到底存在哪个货架。

其次,3FS的强一致性通过分配查询 (CRAQ) 实现链式复制,确保所有环节节点拿到的都是最新数据,不会出现"有人拿到旧版本"的混乱场景,使应用程序代码简单且易于推理。

性能优势方面,3FS能在180节点集群中实现6.6TiB/s总读取吞吐量;在25节点GraySort基准测试中达到3.66TiB/分钟吞吐量;单节点KVCache查询峰值吞吐量超40+GiB/s。

一句话,Fire-Flyer可以看作是一个强大的共享存储层,专门解决AI吃数据"又急又多"的难题,不仅存得快,而且找得准。

编辑/jayden

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

Fire-Flyer 分布式文件系统 AI训练 高性能计算 DeepSeek
相关文章