雪球网今日 2024年08月02日
1、B100主要用于8卡形态,B100制造成本高,为了满足数据中心对于功耗的要求,做了阉割,性能因此偏弱。因此,B100产品属于成本高、卖不上价格、也满足不了高端客...
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

文章讨论了B100产品因成本高、性能弱等问题被取消,这对SMCI不利而利好机柜份额高的厂商。同时提到GB200如期推进并增加GB200a型号,采用机柜方式,且指出机柜方案在大参数量模型训练中具有优势,全面转向机柜设计对铜连接有利,美股也在交易相关事宜。

🎯B100主要用于8卡形态,制造成本高,为满足数据中心功耗要求做了阉割,性能偏弱,属过渡产品,其取消对SMCI不利,却利好机柜份额高的厂商。

📄GB200如期推进并增加GB200a型号,采用机柜方式。对于万亿参数模型,72颗GPU的机柜方案比9台8卡服务器训练效果好,这也是英伟达做72机柜及互联网大厂互联机柜的原因。

💡全面转向机柜设计,对铜连接有利。若B系列8卡B100服务器取消,36机柜占比会提高,且双机柜互联方案为主,需要更多acc线及macom的芯片,致使macom逆势大涨。

来源:雪球App,作者: 米格星球的小星星,(https://xueqiu.com/7517920899/299728064)

1、B100主要用于8卡形态,B100制造成本高,为了满足数据中心对于功耗的要求,做了阉割,性能因此偏弱。因此,B100产品属于成本高、卖不上价格、也满足不了高端客户需求的产品,它只是过渡产品,所以取消在情理之中。
对于SMCI这种8卡大厂是不利的,反而利好这一轮机柜份额高的厂商。
2、GB200如期推进,增加一个型号GB200a,GB200a采用机柜方式。大家可以看看这篇论文Optimized Network Architectures for Large Language Model Training with Billions of Parameters,核心一点观点,对于万亿参数模型,NVlink域内连接72颗GPU是性能和成本的最佳方案,换句话说,72颗芯片的机柜方案比9台8卡服务器训练万亿参数大模型效果好很多,这也是英伟达为什么要做72机柜,也是为什么很多互联网大厂要把两个36机柜互联的原因(72优于两个独立的36方案),理解了这一点,铜连接就不是过渡方案,而是大参数量模型训练的长期技术选择。
大家也清楚,机柜方案中,nvlink连接走的是铜线。本身预期24年下半年,B系列芯片大部分会走8卡服务器形态出货,目前看可能这一部分量会在q4转化成机柜形式提供。因此,全面转向机柜设计,对铜连接是有利的。
美股也在交易这个事情,如果B系列8卡B100服务器取消,那36机柜占比会提高,且双机柜互联方案为主,势必需要更多的acc线,线的两头需要macom的芯片,所以今天macom逆势大涨了。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

B100 GB200 机柜方案 铜连接 macom
相关文章