全文摘要 1、大模型技术进展与模型更新 ·技术路径与加速趋势:大模型技术进展有三条核心路径:一是scaling law,近半年呈加速态势,如Google论文提到MOE架构稀疏模型训练中,训练集群互联与减少网络出错能力对模型训练效果影响显著,且Google、OpenAI等公司扩展大模型计划未变;二是强化学习的skill;三是has time confident skill。头部公司算力扩展计划明确:OpenAI明年计划在单个数据中心用超40万卡算力;Xai即将部署20万卡;Google今年完成百万