中国信通院与人工智能关键技术和应用评测工业和信息化部重点实验室依托AISHPerf基准体系,联合业界伙伴共同开展面向大模型的算子级适配生态构建工作。第一批大模型算子级适配测试已正式启动报名,主要围绕大语言模型算子的丰富度、功能、性能开展。后续将迭代更新算子列表,分类分批持续开展。
🎯 **算子级适配生态构建工作启动**:中国信通院与人工智能关键技术和应用评测工业和信息化部重点实验室联合业界伙伴,共同开展面向大模型的算子级适配生态构建工作。该工作旨在加速大模型软硬件协同生态构建,推动不同尺寸、类型模型与芯片软件栈、Triton等第三方中间件以及开发框架等多路线兼容适配。
🚀 **第一批大模型算子级适配测试**:现已正式启动报名,主要围绕大语言模型算子的丰富度、功能、性能开展。测试涵盖了大模型算子的关键指标,以评估其在不同硬件平台上的兼容性和性能表现。
🔄 **持续迭代和更新**:后续将迭代更新算子列表,分类分批持续开展适配测试工作。这将确保适配生态的不断完善,以满足不断涌现的新模型和新硬件的需求。
🤝 **行业合作与共建**:中国信通院在工作推进过程中,将组织系列研讨及工作会,邀请业界专家和企业参与,共同推动大模型算子级适配生态的构建和发展。
💪 **Triton开源算子适配测试工作启动**:首期闭门工作会已于2024年7月17日召开,会上启动了硬件芯片与Triton开源算子适配测试工作。这标志着算子级适配生态构建工作进入实质性阶段。

7月23日,据中国信息通信研究院消息,为加速大模型软硬件协同生态构建,推动不同尺寸、类型模型与芯片软件栈、Triton等第三方中间件以及开发框架等多路线兼容适配,中国信通院与人工智能关键技术和应用评测工业和信息化部重点实验室依托AISHPerf基准体系,联合业界伙伴共同开展面向大模型的算子级适配生态构建工作。第一批大模型算子级适配测试主要围绕大语言模型算子的丰富度、功能、性能开展,现已正式启动报名。后续将迭代更新算子列表,分类分批持续开展。中国信通院在工作推进过程中,将组织系列研讨及工作会,首期闭门工作会已于2024年7月17日召开。会上,硬件芯片与Triton开源算子适配测试工作启动。