中国科技报 05月15日 02:33
[国 际] 新型AI芯片将大语言模型能耗减半
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

俄勒冈州立大学科研团队成功研发出一种新型AI芯片,可将大语言模型的能耗降低50%。该成果在IEEE定制集成电路会议上发布,是半导体领域的重大突破,有望解决大语言模型高能耗问题。研究团队发现,数据中心铜基通信链路的数据传输是能耗的关键,高速数据交换易出错且耗能巨大。新芯片利用AI技术训练分类器识别并纠正错误,智能高效地恢复数据,从而大幅降低能耗。目前,团队正开发下一代芯片,预计能效表现更佳,有望推动绿色计算。

💡研究背景:当前以谷歌“双子座”和OpenAI的GPT-4为代表的大语言模型,因海量参数导致算力需求激增,进而导致能源需求急速飙升。

🔗问题关键:数据中心铜基通信链路的数据传输是能耗的关键,高速数据交换不仅会产生误差,更会带来巨大的能源浪费。传统均衡器虽能纠错,但其自身也是“电老虎”。

🤖解决方案:俄勒冈州立大学研究团队开发的新芯片借助AI技术,通过训练其上的分类器识别并纠正错误,以更智能高效的方式恢复数据,从而降低能耗。与传统设计相比,新芯片能使大语言模型消耗的能源减半。

📈未来展望:研究团队已着手开发下一代芯片,预计将带来更惊人的能效表现。随着全球AI算力需求持续飙升,这项技术或将成为绿色计算的重要推手。

    科技日报讯 (记者刘霞)美国俄勒冈州立大学科研团队研发出一种新型AI芯片,成功将大语言模型的能耗降低50%。这项成果于近期在波士顿举行的IEEE定制集成电路会议上发布,是半导体领域的重大突破,有望成为解决大语言模型高能耗问题的“绿色钥匙”。

    当前,以谷歌“双子座”和OpenAI的GPT-4为代表的大语言模型,因海量参数使得算力需求激增,进而导致能源需求急速飙升。

    研究团队指出,问题的关键在于数据中心铜基通信链路的数据传输。高速数据交换不仅会产生误差,更会带来巨大的能源浪费。传统均衡器虽能纠错,但其自身就是“电老虎”。一种解决方案是开发更高效的有线通信芯片。

    他们开发的新芯片能够借助AI技术,通过训练其上的分类器识别并纠正错误,以更智能高效的方式恢复数据,从而降低能耗。与传统设计相比,新芯片能使大语言模型消耗的能源减半。

    研究团队已着手开发下一代芯片,预计将带来更惊人的能效表现。随着全球AI算力需求持续飙升,这项技术或将成为绿色计算的重要推手。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

AI芯片 大语言模型 能耗 绿色计算 俄勒冈州立大学
相关文章