语言模型在编程和数学领域表现出色,但在现实应用中智能体系统表现不佳。报告指出,问题不在于模型能力,而在于智能体系统设计挑战。介绍智能体自动化设计(ADAS)方向,以及基于ADAS的达尔文哥德尔机,该机器通过修改自身代码实现递归式自改进。
🤖 智能体系统设计是关键:当前研究聚焦模型预训练和微调,忽视了智能体系统设计的重要性,后者对于充分发挥语言模型能力至关重要。
🔧 ADAS自动化设计:智能体自动化设计(ADAS)是新兴研究方向,旨在自动化设计智能体系统,提高其现实应用表现。
🔄 达尔文哥德尔机:基于ADAS,达尔文哥德尔机通过修改自身代码实现递归式自改进,展现出强大的自学习和适应能力。
🧠 递归自提升:达尔文哥德尔机通过自我修改代码,不断优化自身智能体系统,实现递归式自提升,为未来智能体发展提供新思路。
🔍 研究成果:报告嘉宾胡圣然在元学习、智能体和开放式学习领域有深入研究,其研究成果被多家国际知名媒体报道。
报告主题:达尔文哥德尔机:递归自提升智能体
报告日期:07月09日(本周三) 10:30-11:30
语言模型展示出卓越的能力,在编程竞赛和数学奥林匹克等领域可与顶尖人类专家媲美。然而,在复杂的现实世界应用中,由这些语言模型驱动的智能体系统往往表现不如普通领域专家。我们认为,这种性能差距并非源于语言模型知识或单次查询推理能力的不足,而是源于设计有效智能体系统的挑战(包括提示词、工作流、工具的设计等),这些系统未能充分发挥语言模型的能力。当前研究主要聚焦于模型预训练以获取知识和模型微调以实现行为对齐,却忽视了学习设计代理系统的关键范式。在本次报告中将介绍一个新兴研究方向智能体自动化设计 (Automated Design of Agentic Systems, ADAS),重点介绍首批描述该领域的工作之一ADAS(https://www.shengranhu.com/ADAS/),以及我们近期基于ADAS,探索通过修改自己代码、实现递归式自改进的达尔文哥德尔机(Darwin Gödel Machine, https://sakana.ai/dgm/)。胡圣然,现为Sakana AI研究实习科学家实习生,加拿大英属哥伦比亚大学(University of British Columbia)人工智能博士在读,师从Jeff Clune教授,同时也是Vector Institute学生研究员。曾于南方科技大学完成本科学习。研究方向包括元学习 (meta-learning)、智能体 (agents) 以及开放式学习 (Open-endedness)。在顶级机器学习会议上发表多篇高影响力论文,研究成果入选NeurIPS Spotlight Paper及NeurIPS Open-World Agents Workshop杰出论文奖。独立或参与开发的多个开源项目在GitHub上累计获得超过4,000星标,领导或参与的项目相关介绍帖文在X(原Twitter)上总计获得超300万次阅读量。研究成果被《Science》、《Forbes》、《IEEE Spectrum》、《Wired》、《the globe and mail》等国际知名媒体报道,并被维基百科列入“2020年至今计算技术时间线”的重要事件。更多热门报告
内容中包含的图片若涉及版权问题,请及时与我们联系删除