36kr-科技 2024年12月06日
大厂疯抢GPU,Elon Musk要买100万个?
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

近年来,人工智能的快速发展带动了 GPU 销量的猛增,英伟达凭借其 H100 和即将推出的 Blackwell 芯片占据了数据中心 GPU 市场的主导地位。马斯克的 xAI 公司计划将 Colossus 超级计算机扩展至 100 万个 GPU,而 Meta 也宣布投资 100 亿美元建设 AI 数据中心。微软、谷歌、亚马逊等科技巨头也在积极采购 GPU,以提升其在 AI 领域的竞争力。面对巨大的市场需求,英伟达成为最大赢家,但 AMD、微软、Meta 等公司也正在积极研发自研 AI 芯片,希望打破英伟达的垄断。未来几年,AI 领域的竞争将进一步加剧,GPU 需求也将持续增长。

🤔 **GPU 销量因 AI 发展而大幅增长:** 英伟达凭借 H100 芯片在数据中心 GPU 市场占据 98% 的份额,2023 年 AI 相关收入增长 409%,未来四年数据中心运营商预计将投入 1 万亿美元升级基础设施以满足 AI 开发需求。

🚀 **xAI 计划打造百万级 GPU 超级计算机:** 马斯克的 xAI 公司计划将 Colossus 超级计算机扩展至 100 万个 GPU,目前已拥有超过 10 万个 Nvidia H100 GPU,并计划升级至 H200,这将给 Nvidia 供应链带来巨大压力。

💰 **Meta 投资 100 亿美元建设 AI 数据中心:** Meta 计划在路易斯安那州建设一个占地 400 万平方英尺的 AI 数据中心,预计将创造 1500 个就业岗位,并计划到 2024 年底在数据中心运行 350,000 块 Nvidia H100 芯片。

⚔️ **AI 芯片竞争加剧:** 除了英伟达外,AMD、微软、Meta、谷歌、AWS 等公司也在积极研发自研 AI 芯片,希望打破英伟达的垄断,为客户提供更多选择。

💡 **Blackwell 芯片备受期待:** 英伟达下一代 AI 芯片 Blackwell 需求量极大,预计明年将大量出货,市场也开始期待其后续芯片 Rubin。

过去几年,因为人工智能的火热,GPU的销量猛增。

根据英伟达的数据显示,在2023年,公司与 AI 工作负载相关的英伟达数据中心部门的销售收入为 184 亿美元,比去年同期增长了 409%。2023 年,Nvidia 在数据中心GPU市场占有约 98% 的份额,因为其旗舰 H100 芯片几乎没有竞争对手。

进入2024年,英伟达的GPU销量依然猛增,英伟达CEO黄仁勋也直言,公司新推出的Blackwell在市场的关注度非常高,也有很多客户在买。根据 Jon Peddie Research 的数据,今年全球 GPU 市场预计将超过 985 亿美元。黄仁勋也认为,数据中心运营商将在未来四年内花费 1 万亿美元升级其基础设施,以满足 AI 开发人员的需求,因此这个机会足以支持多家 GPU 供应商。

最近几天的消息看来,Elon Musk和Mark Zuckerberg已经率先开始了新一轮GPU争夺赛。

Elon Musk要打造100万GPU集群

据金融时报最新报道,埃隆·马斯克的人工智能初创公司 xAI 承诺将其 Colossus 超级计算机扩大十倍,以容纳超过 100 万个图形处理单元,以超越谷歌、OpenAI 和 Anthropic 等竞争对手。

Colossus 于今年早些时候建成,仅用了三个月时间,被认为是世界上最大的超级计算机,运行着一个由 100,000 多个互连的 Nvidia GPU 组成的集群。马斯克位于孟菲斯的超级计算机非常引人注目,因为他的初创公司能够快速将 GPU 组装成一个 AI 处理工作集群。“从开始到结束,只用了 122 天,”马斯克说。超级计算机通常需要数年时间才能建成。

他的公司可能还花费了至少 30 亿美元来组装这台超级计算机,因为目前这台超级计算机由 10 万块 Nvidia H100 GPU 组成,每块 GPU 的价格通常约为 3 万美元。马斯克现在想用 H200 GPU 来升级这台超级计算机,H200 GPU 的内存更大,但每块 GPU 的价格接近 4 万美元。

Nvidia也透露,称xAI 的“Colossus”超级计算机的规模正在扩大一倍。马斯克还在推特上表示,这台超级计算机即将在一座占地 785,000 平方英尺的建筑物内整合 200,000 个 H100 和 H200 Nvidia GPU。

戴尔首席运营官杰夫·克拉克周四在接受采访时表示:“我们从一张白纸开始,在短短几个月内大规模部署了数万个 GPU。”“该集群仍在建设中,我们正在脱颖而出。”

如上所述,马斯克的初创公司 xAI 正在开发一个大型设施,以提高其在打造人工智能工具的竞赛中的计算能力。大孟菲斯商会周三也发表声明称,扩大田纳西州孟菲斯工厂规模的工作已经开始。商会表示, Nvidia、戴尔和超微电脑也将在孟菲斯建立业务以支持扩张,同时将成立一支“xAI 特别行动团队”,以“为公司提供全天候礼宾服务”。

相关报道指出,目前尚不清楚 xAI 计划在扩展期间使用当前一代 Hopper 还是下一代 Blackwell GPU。Blackwell 平台的扩展性预计比 Hopper 更好,因此使用即将推出的技术而不是现有技术更有意义。但无论如何,获得 800,000 – 900,000 个 AI GPU 都很难,因为 Nvidia 产品的需求量巨大。另一个挑战是让 1,000,000 个 GPU 以最高效率协同工作,而 Blackwell 再次更有意义。

据华尔街日报之前的报到,英伟达的一位销售主管告诉同事,马斯克对芯片的需求给公司的供应链带来了压力。Nvidia 的一位发言人表示,公司一直努力满足所有客户的需求。

当然,此次扩张的资金需求是巨大的。购买 GPU(每个花费数万美元)以及电力和冷却基础设施可能会将投资推高至数百亿美元。xAI 今年已筹集了 110 亿美元,最近又获得了 50 亿美元。目前,该公司的估值为 450 亿美元。

Meta也砸百亿建设数据中心

在Elon Musk抢购GPU的同时,Mark Zuckerberg也不甘示弱。

Meta Platforms Inc周三表示,公司计划在路易斯安那州东北部建设一个价值 100 亿美元的人工智能数据中心园区,这将是该公司迄今为止建设的最大数据中心。该园区占地 400 万平方英尺,将坐落于里奇兰教区,这是一个以农田为主的农村地区,靠近现有的公用设施基础设施,预计本月破土动工,并持续到 2030 年。

数据中心规划的基础设施将容纳处理海量数据所需的网络和服务器,以支持日益增长的数字技术使用,并将针对人工智能工作负载进行优化,这些工作负载尤其需要数据和计算。一旦上线,它将能够支持Meta 的所有服务,包括 Facebook、Messenger、Instagram、WhatsApp 和 Threads。

在此次数据中心投资消息公布之前,其他公司也在努力扩大其数据和计算能力,以满足人工智能和机器学习应用程序和工作负载日益增长的需求。

Meta 数据中心战略总监 Kevin Janda 表示:“Meta正在构建人类连接的未来以及实现这一目标的技术。这个数据中心将成为这一使命的重要组成部分。”

路易斯安那州州长杰夫·兰德里表示,新数据中心将为该地区带来新的技术机遇。路易斯安那州经济发展局是一家致力于改善该州商业环境的政府机构,据该机构估计,该园区将创造约 1,500 个就业岗位。

“ Meta 的投资将使该地区成为路易斯安那州快速发展的科技行业的支柱 ,振兴我们州美丽的乡村地区之一,并为路易斯安那州的工人创造未来高薪工作的机会,”兰德里说。

Meta 没有透露新设施将支持多少 GPU,也没有透露打算使用哪家公司的芯片。据 Entergy称 ,该中心将由三座天然气厂提供电力,总发电量为 2.2 千兆瓦。他们也强调,其中大部分成本将用于加速器以及支持它们的主机、存储和网络。如果你假设人工智能设施 90% 的成本用于 IT 设备,那么建设该设施的成本为 10 亿美元,而设备成本为 90 亿美元。假设 IT 设备成本的一半多一点用于加速器,那么现在就是 50 亿美元。以平均 25,000 美元的价格计算,这相当于 200,000 个人工智能加速器。如果你假设这里将挤满未来自主研发的 MTIA 加速器,而这些加速器的成本只有这里一半,那么这些加速器的成本将达到 400,000 美元。

Meta 首席执行官马克·扎克伯格此前曾表示,到 2024 年底,公司将在公司数据中心运行 350,000 块 Nvidia H100 芯片,尽管该公司也在开发自己的 AI 硬件。

谁拥有最多的GPU?

除了上述两家厂商以外,包括微软、谷歌、AWS和CoreWeave以及国内一众的云厂商都成为了英伟达GPU的追逐者。财富在日前的报道中指出,一个由三家特别财力雄厚的客户组成的精英群体,在截至10月底的前九个月内,分别购买了价值100亿至110亿美元的商品和服务。

而统计当前的GPU拥有量,按博客lesswrong的预估,如果都换成以H100的等效算力。截止目前,世界五大科技公司的2024年拥有的算力,以及2025年的预测:

该博客同时指出,按照2024 年人工智能状况报告 主要供应商购买 Blackwell 芯片的情况进行了估计——大型云公司正在大量购买这些 GB200 系统:微软购买了 70 万到 140 万个,谷歌购买了 40 万个,AWS 购买了 36 万个。据传,OpenAI 至少拥有 40 万个 GB200。

由此可见,新一代的Blackwell 的欢迎程度很高。目前正在建设的数据中心可能会采用 Nvidia 的 Blackwell 芯片,该公司预计明年将大量出货。不过,市场已经开始期待该公司推出的 Rubin 芯片,这是 Blackwell 之后的下一代芯片。

英伟达首席执行官黄仁勋在10月初接受CNBC 的《Closing Bell Overtime》节目采访时表示,该公司下一代人工智能芯片 Blackwell 的需求“疯狂”。他说道:“每个人都想拥有最多,每个人都想成为第一。”

黄仁勋在接受 CNBC 采访时表示:“在技术发展如此迅速的时代,我们有机会三倍投入,真正推动创新周期,从而提高产能、提高产量、降低成本、降低能耗。我们正在朝着这个方向努力,一切都在按计划进行。”

首席财务官科莱特·克雷斯 (Colette Kress)八月份曾表示,公司预计第四财季 Blackwell 营收将达数十亿美元。

Jensen 表示,Nvidia 计划每年更新其 AI 平台,将性能提高两到三倍。

Melius Research 分析师 Ben Reitzes 在一份研究报告中写道:“越来越多的猜测认为,Nvidia 的下一代 GPU(继 Blackwell 之后)——名为 Rubin——可能会比大多数投资者预计的 2026 年提前 6 个月准备就绪。”

Reitzes 警告称,芯片的发布很少会提前,并维持该股 195 美元的目标价,他表示,这是假设 Rubin 在 2026 年下半年进行部署。

写在最后

在GPU广受欢迎的当下,英伟达无疑是最大的赢家。但AMD也不甘人后,正在努力成为这个市场的另一个重要角色。除此以外,微软、Meta、谷歌、AWS等巨头,也都在打造自主的AI芯片,希望在这个市场凭借自研的加速器,去英伟达GPU之间找到另一个平衡点。

例如AWS 首席执行官马特·加曼 (Matt Garman) 在日前的大会中所说:“如今,GPU 方面实际上只有一个选择,那就是 Nvidia。我们认为客户会喜欢有多种选择。”

参考链接

https://www.ft.com/content/9c0516cf-dd12-4665-aa22-712de854fe2f

https://www.tomshardware.com/tech-industry/artificial-intelligence/elon-musk-plans-to-scale-the-xai-supercomputer-to-a-million-gpus-currently-at-over-100-000-h100-gpus-and-counting

https://siliconangle.com/2024/12/05/meta-invest-10-billion-louisiana-ai-data-center/

https://www.lesswrong.com/posts/bdQhzQsHjNrQp7cNS/estimates-of-gpu-or-equivalent-resources-of-large-ai-players#Nvidia_chip_production

https://www.cnbc.com/2024/10/03/nvidia-ceo-demand-for-blackwell-ai-chip-is-insane.html

本文来自微信公众号“半导体行业观察”(ID:icbank),作者:编辑部,36氪经授权发布。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

GPU 人工智能 英伟达 AI 芯片 数据中心
相关文章