雪球网今日 2024年09月14日
转:关于GPT4o1对半导体影响跟美国的技术团队及TSM电话了下:先给结论:NV芯片需继续增加,毛利可能有小幅影响GPU是一个通用解决方案,而ASIC非常特定的。需要极...
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

文章探讨了GPT4对半导体的影响,涉及NV芯片需求、ASIC的作用及问题、线程竞争、TPU的实际问题和云计算中心的情况等

🎯ASIC虽可在特定环境做垂直精确post-training优化结果,但使用场景特定,提前投入芯片设计有风险,且结果还需用GPU翻回大模型

💻NV芯片需继续增加,TSM不会冒险为NV之外公司大量增加CoWoS线程,NV虽买断线程但毛利率可能略降

🚀使用TPU存在实际问题,新设计芯片完成设计后投产需提前预定TSM线程,且用新卡替代部分GPU算力还需测试,顺利的话2年后可能开始使用

☁️云计算中心的迭代专注GPU逐步替代CPU,新的Capex对GPU需求无变化

来源:雪球App,作者: 但斌,(https://xueqiu.com/1102105103/304683960)

转:关于GPT4o1对半导体影响跟美国的技术团队及TSM电话了下:
先给结论:NV芯片需继续增加,毛利可能有小幅影响
GPU是一个通用解决方案,而ASIC非常特定的。需要极大的特定场景才能justify提前2年投入芯片设计
1. ASIC作用:pre-training还得用GPU,但ASIC可以在特定环境做垂直精确post-training优化结果(比如Goog推荐是非常特定得找回+推荐模型)但是,结果出来之后还是要用GPU翻回大模型
而且ASIC需要提前投入芯片设计,而且使用场景非常特定。如果选择ASIC替代GPU,垂直场景环境变化、AI模型改变都会对大公司产生风险
2. 与NV争夺同样CoWoS线程。比如Goog得TPU都需要内存,带宽,因此一样都要CoWoS。TSM反馈: 不会冒险增加线程大量给NV之外公司做ASIC。另一方面,虽然NV几乎买断了2027年前的线程,但是毛利率面对竞争可能会略降
3.使用TPU得实际问题。因为使用场景特定,Goog已经研发TPU很多年了。对于其他垂直领域,新设计芯片,完成设计"之后"光投产就需要提前1年预定TSM线程(1y对应AVGO,其他供货商起码1.5y-2y)
而且AI云是这几个大公司核心业务。放新卡替代部分GPU算力还需要测试的。假设我们模型不变,预期一切顺利可能2年后能开始使用。
4. 云计算中心迭代:不算4大云厂商新的capex,1万亿的云计算中心的迭代还是专注GPU在逐步替代CPU。同时,新的Capex对与GPU需要并不变化(MSFT反馈不预期有任何影响)

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

GPT4 半导体 NV芯片 云计算
相关文章