AI前线 19小时前
看不见的底座:大模型 Infra 工程师的实战日常 | 直播预告
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

本次直播聚焦大模型背后的基础设施工程细节,邀请来自华为、蚂蚁集团及SGLang开源项目的AI Infra专家,分享他们在实践中遇到的真实问题、故障类型,以及训练和推理流程中的挑战。直播还将探讨开源项目的推进难点、国产芯片适配等话题,旨在帮助听众深入了解大模型高效运行的技术支撑。通过预约直播,观众可以与专家互动,获取实战经验。

💡直播将探讨Infra工程师在日常工作中遇到的真实需求与故障类型,帮助听众了解大模型运行过程中可能出现的问题。

⚙️分享训练和推理流程中最常出错的环节,揭示大模型训练和推理过程中的关键技术难点。

🌐探讨开源Infra项目的推进难点,包括技术挑战和技术之外的考量,例如社区维护、生态建设等。

💻分享国产芯片适配的经验,包括在昇腾等国产芯片上进行大模型训练和推理的实际体验与挑战,以及如何优化性能。

2025-06-14 13:30 上海

大模型能跑起来、跑得好,背后有哪些看不见的工程细节?三位分别来自华为、蚂蚁集团与 SGLang 开源项目的 AI Infra 从业者 将分享他们的观察与体验。

大模型能跑起来、跑得好,背后有哪些看不见的工程细节?三位分别来自华为、蚂蚁集团与 SGLang 开源项目的 AI Infra 从业者 将分享他们的观察与体验。扫码预约直播,不见不散!

直播介绍

直播时间

6 月 16 日 20:00~21:30

直播主题

看不见的底座:大模型 Infra 工程师的实战日常

直播嘉宾

主持人:ZOMI 酱  华为 / 昇腾技术专家

嘉宾

    马介悦 蚂蚁集团 / 高级专家

    尹良升 SGLang 核心开发者

直播亮点

    Infra 工程师日常遇到的真实需求与故障类型

    训练 / 推理流程中最常出错的环节有哪些

    开源 Infra 项目的推进难点:技术之外还要兼顾什么

    国产卡适配训练 / 推理过程中的实际体验与挑战

如何看直播?

扫描下图海报【二维码】,或戳直播预约按钮,预约 AI 前线视频号直播。👇

如何向讲师提问?

文末留言写下问题,讲师会在直播中为你解答。

阅读原文

跳转微信打开

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

大模型 AI Infra 工程细节 昇腾 开源
相关文章