华尔街见闻 - 最热文章 06月28日 22:09
首次使用“非英伟达”芯片!OpenAI租用谷歌TPU,降低推理计算成本
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

OpenAI,作为全球最大的人工智能芯片客户之一,开始租用谷歌的TPU芯片,以支持ChatGPT等产品的算力需求,标志着其首次大规模使用非英伟达芯片。此举旨在缓解对微软数据中心的依赖,并降低推理计算成本。随着ChatGPT用户激增,OpenAI的算力需求持续攀升,促使其寻求多样化的算力来源。与此同时,谷歌TPU也为挑战英伟达GPU市场主导地位提供了机会。文章还提及了其他公司自主研发推理芯片的计划,以及谷歌在TPU和英伟达芯片上的策略。

💡 OpenAI因算力需求激增,开始租用谷歌TPU。ChatGPT用户增长迅速,推动了对计算资源的需求,促使OpenAI寻求多元化的算力解决方案。

💻 谷歌TPU为OpenAI提供算力支持,挑战英伟达市场地位。OpenAI此举有助于降低推理计算成本,同时也为谷歌TPU提供了展示其竞争力的机会。

💰 OpenAI在AI芯片服务器上的支出预计将大幅增长。 2025年,OpenAI在AI芯片服务器上的支出预计将接近140亿美元,显示出其对算力的巨大需求。

🤔 谷歌在TPU和英伟达芯片上的策略并存。谷歌既向客户出租TPU,也出租英伟达芯片,并订购了大量英伟达最新服务器芯片,以满足不同客户的需求。

英伟达的芯片主导地位正被侵蚀,OpenAI租用谷歌TPU,为首次大规模使用“非英伟达”芯片。

周六,据媒体报道,作为全球最大的人工智能芯片客户之一,OpenAI近期开始租用谷歌的TPU芯片为ChatGPT等产品提供算力支持,这是该公司首次大规模使用非英伟达芯片。

据知情人士透露,此次合作安排使得OpenAI缓解对微软数据中心的依赖,同时为谷歌的TPU提供了挑战英伟达GPU市场主导地位的机会。OpenAI希望通过谷歌云租用的TPU芯片降低推理计算成本。

随着ChatGPT付费订阅用户从年初的1500万增长至超过2500万,加上每周数亿免费用户的使用,OpenAI的算力需求正在快速攀升。

值得一提的是,越来越多公司正在开发推理芯片以减少对英伟达的依赖并长期降低成本。亚马逊和微软,以及OpenAI和Meta等大型AI推理芯片都已启动自主研发推理芯片的计划,见闻此前文章提及,微软造芯计划受挫,Maia 100目前仅用于内部测试,Braga的AI 芯片面临至少六个月的延迟,且预计其性能将远低于英伟达Blackwell芯片。

OpenAI需求激增推动转向谷歌芯片

OpenAI主要通过微软和甲骨文租用英伟达服务器芯片来开发训练模型并为ChatGPT提供算力。 据了解,该公司去年在此类服务器上的支出超过40亿美元,其中训练和推理成本各占一半,预计2025年在AI芯片服务器上的支出将接近140亿美元。

谷歌TPU转向的直接推动因素是今年早些时候ChatGPT图像生成工具的爆红,这给OpenAI在微软的推理服务器带来了巨大的压力。为了应对不断增长的计算需求和成本压力,OpenAI首先寻求了谷歌云的支持。

据谷歌云员工透露,谷歌虽然向该竞争对手开放其强大的TPU芯片,但还是会将更强大的TPU保留给自己的AI团队开发,然后供Gemini模型使用。

谷歌大约10年前就开始研发TPU芯片,并从2017年开始向意识训练自有AI模型的云客户提供这一服务。除了OpenAI外、苹果、Safe Superintelligence和Cohere等公司也一直租用谷歌云的TPU,部分原因是这些公司的一些员工在谷歌工作,熟悉TPU的运作方式。

据知情人士透露,同样是全球最大AI芯片客户之一的Meta近期也考虑使用TPU。

此外,谷歌云还向其客户出租英伟达支持的服务器,因为英伟达芯片是行业标准,这样做带来的收益仍然比出租TPU多得多。开发者对控制这些芯片的专用软件更加熟悉。谷歌此前已向英伟达订购了超过100亿美元的最新Blackwell服务器芯片,并于今年2月开始向部分客户提供。

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

OpenAI 谷歌TPU 英伟达 AI芯片 算力
相关文章