IT之家 2024年08月08日
清华“太极-Ⅱ”光芯片面世:成果登 Nature,首创全前向智能光计算训练架构
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

清华大学电子工程系方璐教授课题组和自动化系戴琼海院士课题组联合研发了“太极-II”光训练芯片,该芯片采用全前向智能光计算训练架构,实现了光计算系统大规模神经网络的高效精准训练。研究成果已发表在《自然》期刊,该技术突破了传统光神经网络训练依赖 GPU 离线建模的局限性,实现了光学神经网络的在线训练,并展现出卓越的性能。

🤔 **全前向智能光计算训练架构:** 该架构颠覆了传统光神经网络训练依赖于 GPU 进行离线建模的局限性,通过将梯度下降中的反向传播转化为光学系统的前向传播,实现了光学神经网络的在线训练。该架构不需要进行反向传播,也不再依赖电计算进行离线的建模与训练,从而实现了大规模神经网络的精准高效光训练。

🚀 **卓越的性能表现:** 太极-II 在大规模学习领域、复杂场景智能成像领域和拓扑光子学领域展现出卓越的性能。例如,在大型学习领域,太极-II 将数百万参数的光网络训练速度提升了 1 个数量级,代表性智能分类任务的准确率提升 40%;在复杂场景智能成像领域,太极-II 在弱光环境下实现了能量效率为 5.40×10^6 TOPS / W 的全光处理,系统级能效提升 6 个数量级;在拓扑光子学领域,太极-II 在不依赖任何模型先验下可自动搜索非厄米奇异点,为高效精准解析复杂拓扑系统提供了新思路。

💡 **未来应用前景:** 该研究成果为智能光计算的发展提供了新的方向,也为人工智能、光学成像、拓扑光子学等领域带来了新的可能性。未来,太极-II 有望在各种应用场景中发挥重要作用,例如:医疗影像、自动驾驶、高性能计算等。

IT之家 8 月 8 日消息,据清华大学官方消息,清华大学电子工程系方璐教授课题组、自动化系戴琼海院士课题组另辟蹊径,首创了全前向智能光计算训练架构,研制了“太极-II”光训练芯片,实现了光计算系统大规模神经网络的高效精准训练。

该研究成果以“光神经网络全前向训练”为题,于北京时间 8 月 7 日晚在线发表于《自然》期刊。

IT之家查询获悉,清华大学电子系为论文第一单位,方璐教授、戴琼海教授为论文的通讯作者,清华大学电子系博士生薛智威、博士后周天贶为共同一作,电子系博士生徐智昊、之江实验室虞绍良博士参与了该项工作。该课题受到国家科技部、国家自然科学基金委、北京信息科学与技术国家研究中心、清华大学-之江实验室联合研究中心的支持。

Nature 审稿人在审稿评述中指出“本文中提出的想法非常新颖,此类光学神经网络(ONN)的训练过程是前所未有的。所提出的方法不仅有效,而且容易实现。因此,它有望成为训练光学神经网络和其他光学计算系统的广泛采用的工具。”

据清华大学官方介绍,近年间,具有高算力低功耗特性的智能光计算逐步登上了算力发展的舞台。通用智能光计算芯片“太极”首次将光计算从原理验证推向了大规模实验应用,拥有 160TOPS / W 的系统级能效,但现有的光神经网络训练严重依赖 GPU 进行离线建模并且要求物理系统精准对齐

据论文第一作者、电子系博士生薛智威介绍,在太极-II 架构下,梯度下降中的反向传播化为了光学系统的前向传播,光学神经网络的训练利用数据-误差两次前向传播即可实现。两次前向传播具备天然的对齐特性,保障了物理梯度的精确计算。由于不需要进行反向传播,太极-II 架构不再依赖电计算进行离线的建模与训练,大规模神经网络的精准高效光训练终于得以实现

论文研究表明,太极-II 能够对多种不同光学系统进行训练,并在各种任务下均表现出了卓越的性能:

IT之家附论文链接:

https://www.nature.com/articles/s41586-024-07687-4

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

智能光计算 光训练芯片 太极-II 光神经网络 清华大学
相关文章