摩根士丹利发布的重磅报告揭示了AI推理业务的惊人利润率，平均超过50%。报告采用“100MW AI工厂模型”对不同技术路径的AI解决方案进行量化评估。其中，英伟达的GB200 NVL72以近78%的利润率位居榜首，得益于其领先的计算性能和CUDA软件生态。谷歌TPU v6e pod和AWS Trn2 UltraServer紧随其后，利润率分别为74.9%和62.5%。华为昇腾CloudMatrix 384平台也取得了47.9%的利润率。然而，AMD的MI300X和MI355X表现不佳，利润率均为负数，显示其高昂成本未能被有效覆盖。

💡 AI推理业务利润丰厚，普遍超过50%：摩根士丹利的研究显示，无论是哪家芯片巨头，一座标准的AI推理工厂平均利润率都远超行业平均水平，凸显了AI推理作为一项业务的巨大商业价值。

🚀 英伟达GB200 NVL72利润率高达近78%，占据市场主导地位：英伟达凭借其强大的计算性能以及成熟的CUDA软件生态系统，在AI推理市场中展现出绝对的统治力，其GB200 NVL72芯片的利润率遥遥领先于竞争对手。

📊 谷歌TPU和AWS芯片紧随其后，展现强劲竞争力：谷歌自研的TPU v6e pod以74.9%的利润率位列第二，而AWS的Trn2 UltraServer也取得了62.5%的利润率，表明云服务提供商在AI硬件领域的投入已取得显著成效。

📉 华为昇腾平台表现稳健，AMD芯片遭遇挑战：华为的昇腾CloudMatrix 384平台实现了47.9%的利润率，显示出其在中国AI市场的竞争力。相比之下，AMD的MI300X和MI355X因成本覆盖问题，利润率出现负值，面临严峻的市场挑战。

🛠️ 标准化分析框架助力评估AI解决方案的商业表现：摩根士丹利提出的“100MW AI工厂模型”为评估不同AI解决方案的商业可行性提供了一个统一的量化维度，有助于理解市场竞争格局和技术路线的优劣。

当下，几乎所有软件巨头们都在大力投入AI推理业务。近日，大摩（摩根士丹利）的一份重磅报道显示，AI推理原来是一门利润惊人的生意。而选择不同的AI GPU芯片，利润率也差距非常大。但总体来看，一座标准的“AI推理工厂”，无论采用哪家巨头的芯片，其平均利润率普遍超过50%。

据悉，摩根士丹利首创了一套标准化分析框架，即“100MW AI工厂模型”，将不同技术路径的AI解决方案，置于同一商业维度下进行量化评估。

毫无悬念，NVIDIA的GB200 NVL72以近78%的利润率遥遥领先。据悉，这主要得益于其领先的计算性能以及CUDA软件生态的深厚壁垒，展现出了绝对的市场一哥的统治力。

谷歌自研的TPU v6e pod以74.9%的利润率排名第二，AWS（亚马逊云）的Trn2 UltraServer取得了62.5%的利润率，而华为的昇腾CloudMatrix 384平台也取得了47.9%的利润率。

AMD的MI300X和MI355X意外遭遇滑铁卢，利润率竟然为负，分别为-28.2%和-64%。

报告指出，虽然AMD前期投入很大，但其token产出效率所能创造的收入，远不足以覆盖其高昂的成本。