AI & Big Data 03月07日
支援輝達與AMD資料中心GPU平臺,思科推出8U8GPU伺服器
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

思科重磅推出UCS C885A M8服务器,标志着其正式进军AI服务器领域。这款8U机箱服务器搭载8个SXM外形的Nvidia H100或H200,以及OAM外形的AMD Instinct MI300X GPU,并提供NVLink或Infinity Fabric互连架构。UCS C885A M8专为大型语言模型训练、微调以及大规模AI模型推论而设计,通过高密度GPU配置和高性能,能够有效支撑繁重的AI训练与推论工作负载。此外,它还配备Nvidia网卡与DPU,以提升AI网络传输性能和零信任资安防护能力。

🚀 **高性能AI算力**:UCS C885A M8服务器采用8U尺寸机箱,可搭载8个SXM形式的Nvidia H100/H200 GPU或8个OAM形式的AMD Instinct MI300X GPU,满足不同AI应用场景的需求。

🌐 **灵活的网络配置**:该服务器配备OCP 3.0英特尔网卡,用于基本网络连接。针对东西向流量,配备8张400GbE Connect-X7网卡或BlueField-3 DPU;针对南北向流量,配备5张200GbE BlueField-3 DPU,实现高效的数据传输。

💾 **强大的存储能力**:UCS C885A M8提供16个1.92TB 2.5英寸U.2 NVMe固态硬盘以及1个M.2 NVMe固态硬盘,保证了充足的存储空间,满足AI应用对数据存储的需求。

💡 **多元应用场景**:这款服务器专注于大型语言模型(LLM)的训练、微调,以及大规模的AI模型推论、检索增强生成(RAG)等数据密集型应用。

回顧過去幾年的伺服器市場,大部分廠商都積極投入GPU伺服器產品的推出,尤其是採用大尺寸機箱、配備8個SXM形式的輝達資料中心GPU組態,更被視為爭奪AI加速運算伺服器商機的重要指標,可惜的是,部分廠商這段期間並未持續推出這樣的產品,直到最近,終於再度供應相關的解決方案。

像是思科在2018年發表搭載8個Nvidia Tesla V100的UCS C480 ML M5,之後遲遲未推出採用這類GPU組態的伺服器,到了2024年10月Cisco Partner Summit期間,他們突然宣布,預計將推出搭載8個SXM外形Nvidia H100H200的伺服器,名為UCS C885A M8,此時開放訂購,預計年底向客戶出貨。在今年2月舉行歐洲年度用戶大會Cisco Live Amsterdam期間,思科也正式宣布UCS C885A M8上市,並將此時發表的新款PCIe型GPU伺服器UCS C845A M8,與其並列為UCS高密度GPU伺服器機型,支援資料密集型的應用需求,專攻大型語言模型(LLM)的訓練、微調,以及大規模的AI模型推論、檢索增強生成(RAG)。

透過這樣的高密度、高性能GPU配置,UCS C885A M8能夠支撐最繁重的AI訓練與推論工作負載,當中也將搭配Nvidia網路卡與資料處理器(DPU),以便加快AI網路傳輸效能,以及促成強健的零信任資安防護。思科強調,這是他們首度進軍專屬AI伺服器產品的範疇,也是他們第一款基於Nvidia HGX這個匯聚多個GPU平臺而成的伺服器。

根據思科目前釋出的產品規格來看,UCS C885A M8採用8U尺寸的機箱,所能搭配的資料中心GPU,其實並不僅止於8個SXM外形的Nvidia H100或H200,搭配NVLink互連架構,還能選擇8個OAM外形的AMD Instinct MI300X,搭配Infinity Fabric互連架構,而且,這樣的配置均已分別列入Nvidia的Qualified System Catalog,以及AMD的Qualified Server Catalog。

  

關於網路介面的配置,也是UCS C885A M8一大特點。除了搭配1張OCP 3.0規格、內建兩個10GbE埠的英特爾網路卡X710-T2L,思科針對這臺伺服器的東西向網路流量,也就是多個伺服器機箱之間的連線存取,設置8張內建1個400GbE埠的網路卡Connect-X7,或資料處理器BlueField-3 B3140H SuperNIC;而在南北向網路流量方面,UCS C885A M8也設置5張內建2個200GbE埠的資料處理器BlueField-3 B3220。

 

產品資訊

Cisco UCS C885A M8
●原廠:Cisco
●建議售價:廠商未提供
●機箱尺寸:8U
●處理器:2顆AMD第四代EPYC系列(9554,64核心)或2顆AMD第五代EPYC系列(9575F,64核心)
●記憶體:24個96GB的DDR5-4800或DDR5-6000,整臺2.25 TB
●儲存配置:16臺1.92 TB 2.5吋U.2外形NVMe固態硬碟+1臺M.2外形NVMe固態硬碟
●搭配GPU:Nvidia HGX H100 8-GPU,8個SXM5形式GPU,或是Nvidia HGX H200 8-GPU,8個SXM5形式GPU,或是AMD Instinct MI300X 8-GPU,8個OAM形式GPU
●I/O擴充介面:13張PCIe 5.0 x16全高半長介面卡,5張全高半長搭配BlueField-3 DPU(B3220、B3240)支援南北向流量,8張半高半長搭配ConnectX-7或BlueField-3 DPU,支援東西向流量
●電源供應器:2臺2700瓦(N+1備援)、6臺3000瓦(N+2備援)

【註:規格與價格由廠商提供,因時有異動,正確資訊請洽廠商】

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

Cisco UCS C885A M8 AI服务器 Nvidia H100 AMD MI300X 深度学习
相关文章