e公司-快讯 2024年07月23日
中国信通院正式启动AI大模型算子适配生态建设工作
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

中国信通院与人工智能关键技术和应用评测工业和信息化部重点实验室联合开展面向大模型的算子级适配生态构建工作,旨在加速大模型软硬件协同生态构建,推动不同尺寸、类型模型与芯片软件栈、Triton等第三方中间件以及开发框架等多路线兼容适配。

🎯 **算子级适配生态构建**:中国信通院与人工智能关键技术和应用评测工业和信息化部重点实验室联合开展面向大模型的算子级适配生态构建工作。 该工作旨在加速大模型软硬件协同生态构建,推动不同尺寸、类型模型与芯片软件栈、Triton等第三方中间件以及开发框架等多路线兼容适配。 通过构建算子级适配生态,可以有效提高大模型的性能和效率,促进大模型的应用落地。

🚀 **第一批大模型算子级适配测试**:第一批大模型算子级适配测试主要围绕大语言模型算子的丰富度、功能、性能开展,现已正式启动报名。 本次测试将评估不同算子在不同硬件平台上的性能表现,并为开发者提供算子优化建议。

🗓️ **持续迭代更新**:后续将迭代更新算子列表,分类分批持续开展算子级适配测试。 随着大模型技术的不断发展,算子列表将不断更新,以满足不断增长的需求。

e公司讯,据中国信通院CAICT微信公众号,为加速大模型软硬件协同生态构建,推动不同尺寸、类型模型与芯片软件栈、Triton等第三方中间件以及开发框架等多路线兼容适配,中国信通院与人工智能关键技术和应用评测工业和信息化部重点实验室依托AISHPerf基准体系,联合业界伙伴共同开展面向大模型的算子级适配生态构建工作。第一批大模型算子级适配测试主要围绕大语言模型算子的丰富度、功能、性能开展,现已正式启动报名。后续将迭代更新算子列表,分类分批持续开展。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

大模型 算子级适配 生态构建
相关文章