這幾年與Nvidia相互唱和、推廣AI工廠概念的Dell，去年10月OCP全球高峰會與11月SC超級電腦大會期間，陸續發表多款AI加速伺服器專用機型，持續擴充PowerEdge XE系列產品陣容，而且，特別的是，部分機型還可納入該公司推出的第二款整合式機櫃擴充系統（IRSS）：Integrated Rack 5000。
我們先來看看4U尺寸、配備8個AI加速器的伺服器XE7745與XE7740，這兩款產品原定分別在2025年1月與第二季推出，時至今日Dell網站已陸續公布規格與技術指南，上面標明XE7745這些文件的發布時間為2025年2月，XE7740則是2025年5月。
時間回到去年第四季，2024年10月Dell預告將推出XE7745，屆時將採用AMD第五代EPYC處理器，支援8張雙寬尺寸或16張單寬尺寸的GPU加速卡，伺服器GPU的容量增加1倍——上代機型R760xa搭配2U尺寸機箱，最多只能支援4張雙寬或12張單寬的GPU加速卡。而且，Dell XE7745還能提供額外的PCIe 5.0介面卡插槽，以便安裝網路卡，是專為AI推論、模型微調、高效能運算等應用而設置的伺服器機型。
一個月之後，Dell預告將推出整體配置與XE7745相當類似的XE7740，當中採用兩顆英特爾Xeon 6 P-core處理器，最多可搭配8張雙寬尺寸的AI加速器，像是英特爾Gaudi 3、Nvidia H200 NVL，或是16張單寬尺寸的AI加速器，如Nvidia L4。他們強調這款設備能涵蓋企業生成式AI模型的微調或推論應用需求，提供適合的伺服器組態，充分發揮大型資料集的價值。
到了今年，在Nvidia於3月中舉行的GTC大會期間，Dell明確表示，XE7745與XE7740皆能搭配Hopper架構、記憶體更大更快的GPU加速卡Nvidia H200 NVL，能在企業部署Dell AI Factory with NVIDIA解決方案時，提供更高的效能與使用彈性，藉由這樣的系統提供高頻寬的處理能力，以及最新推出的Nvidia GPU平臺，支撐嚴苛的AI應用案例需求。在此同時，因為Nvidia在GTC 2025大會發表性能更強大的GPU加速卡：RTX Pro 6000 Blackwell Server Edition，Dell也在他們的部落格預告雙方的合作：XE7745與XE7740將能搭配8張這款資料中心GPU，而在5月下半召開的Dell technologies World，該公司明確表示上述配置將於7月正式推出，也將在Nvidia Enterprise AI Factory驗證設計提供支援，因應機器人、數位雙生等物理AI，以及多模態AI等代理型AI應用案例的需求。
關於效能測試的表現上，早一步上市的XE7745已出現在4月公布的MLPerf Inference v5.0，以及6月揭曉的MLPerf Training v5.0。
以AI推論測試MLPerf Inference v5.0而言，同樣搭配8張Nvidia H200 NVL，XE7745在Llama2 70b模型的使用上，略優於其他三款伺服器：華碩ESC8000A-E13P、HPE ProLiant Compute DL380a Gen12、Supermicro SYS-522GA-NRT，但在GPTJ模型的使用上，則是落後上述伺服器。若是同樣搭配8張Nvidia L40S，XE7745大部分項目都略優於HPE DL380a。
而在AI訓練測試MLPerf Training v5.0，Dell提交搭配4張Nvidia H200 NVL的XE7745，以及搭配8張Nvidia H200 NVL的XE7740，由於此次無其他品牌伺服器，所以，大家無法從中比較Dell XE7745性能是否優於其他廠牌的伺服器。
不過，我們倒是可以趁機了解這些GPU組態類似的伺服器，看看它們的硬體規格異同。
首先是機箱尺寸，Dell XE7745與Dell XE7740、華碩ESC8000A-E13P，以及HPE DL380a皆為4U，而Supermicro SYS-522GA-NRT則是5U。
第二是AI加速器，Dell XE7745、Dell XE7740、華碩ESC8000A-E13P、HPE DL380a、Supermicro SYS-522GA-NRT，均可搭配8張Nvidia H200 NVL。
根據Nvidia Qualified System Catalog網站所示，採用類似組態的伺服器，還有採用4U機箱的技嘉G494-ZB4-AAP2、G494-SB0-AAP2、G494-SB4-AAP2、永擎4U8G-TURIN2、微星CG480-S5063（S5063G480），採用5U機箱的Supermicro SYS-521GE-TNRT、AS -5126GS-TNRT2，以及採用3U機箱的聯想SR675 V3。值得注意的是，Supermicro這些機型，由於機箱尺寸較大，部分產品全高全長PCIe介面卡插槽可提供到10個，甚至13個之多。
而關於GPU的搭配，上述伺服器還可搭配Nvidia另一款資料中心GPU產品L40S，像是Dell XE7745、華碩ESC8000A-E13P、Supermicro SYS-521GE-TNRT、聯想SR675 V3。
第三是處理器與記憶體平臺。Dell XE7740搭配兩顆英特爾Xeon 6 P-core系列的6700系列處理器（最大86核心 x 2），以及32支DDR5-5200或DDR5-6400記憶體（最大3 TB、未來4 TB）；Dell XE7745搭配兩顆AMD EPYC 9005系列處理器（最大192核心 x 2），以及24支DDR5-6000或DDR5-6400記憶體（最大2.3 TB、未來3 TB）。
華碩ESC8000A-E13P搭配兩顆AMD EPYC 9005系列處理器（最大192核心 x 2），以及24支DDR5-5600或DDR5-6400記憶體（最大3 TB）；HPE DL380a搭配兩顆英特爾Xeon 6 P-core系列或E-core系列，以及32支DDR5-5200或DDR5-6400記憶體（DDR5-5200最大8 TB，DDR5-6400最大4 TB）；Supermicro SYS-522GA-NRT搭配兩顆英特爾Xeon 6 P-core系列的6900系列處理器（最大128核心 x 2），以及24支DDR5-6400或DDR5-8800記憶體（最大6 TB）。
產品資訊
Dell PowerEdge XE7740
●原廠：Dell
●建議售價：廠商未提供
●機箱尺寸：4U
●處理器：2顆，Xeon 6系列（最高搭配86核心機型）
●記憶體：32個DDR5-6400插槽，最大可擴充至4 TB
●儲存配置：8臺E3.S外形NVMe固態硬碟+2臺M.2 NVMe固態硬碟（BOSS-N1 DC-MHS）
●搭配GPU：8張雙寬全高全長600瓦GPU（Nvidia H200 NVL）
或16張單寬全高全長75瓦GPU
●I/O擴充介面：8張 PCIe 5.0 x16全高全長介面卡（150瓦）
●電源供應器：8臺3200瓦
●系統管理平臺：iDRAC10
Dell PowerEdge XE7745
●原廠：Dell
●建議售價：廠商未提供
●機箱尺寸：4U
●處理器：2顆，AMD EPYC 9005系列（最高搭配192核心機型）
●記憶體：24個DDR5-6000插槽，最大可擴充至3 TB
●儲存配置：8臺E3.S外形NVMe固態硬碟+2臺M.2 NVMe固態硬碟（BOSS-N1 DC-MHS）
●搭配GPU：8張雙寬全高全長600瓦GPU（Nvidia H200 NVL、Nvidia L40S）
或16張單寬全高全長75瓦GPU
●I/O擴充介面：8張 PCIe 5.0 x16全高半長介面卡（150瓦）
●電源供應器：8臺3200瓦
●系統管理平臺：iDRAC10
【註：規格與價格由廠商提供，因時有異動，正確資訊請洽廠商】
