Cnbeta 03月31日 16:42
专家称AI行业在实现AGI的道路上走错了方向
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

由数百位人工智能研究人员组成的团队在2025年人工智能研究未来总统小组会议上指出,当前人工智能领域对通用人工智能(AGI)的追求方式存在偏差。报告强调,公众对人工智能能力的认知与实际研发状况不符,过度炒作可能阻碍研究的健康发展。研究人员呼吁关注安全、伦理治理和协作发展,而非盲目追求AGI。报告同时指出,尽管人工智能技术取得了显著进步,但仍需在事实核查、模型稳健性和组织方法上进行改进。最终,报告预示着人工智能将持续发展,并呼吁以批判性思维审视其现状,推动更负责任的创新。

🧐 报告指出,公众对人工智能(AI)能力的认知与实际研发情况存在差距,这种不匹配阻碍了AI研究。79%的受访者认为公众认知与现实不符,74%的人表示AI研究方向受炒作驱动。

📈 研究人员引用Gartner炒作周期,认为生成式AI的炒作已过高峰,正在走下坡路。这提醒人们对AI的未来发展应保持谨慎,避免过度乐观,并关注实际进展。

💡 报告强调,仅仅扩大现有AI方法不足以实现通用人工智能(AGI)。76%的受访者持此观点。研究人员倾向于优先考虑安全、伦理治理、利益共享和逐步创新,主张协作和负责任的发展。

🚀 尽管存在挑战,AI技术仍在快速发展。报告指出,AI在过去五年取得了巨大进步,尤其是在ChatGPT等聊天机器人的推动下。然而,AI的事实性仍有待提高,最佳模型在基准测试中只能正确回答约一半的问题。

🤝 未来,提高AI可信度的方法之一是用合作的团队取代单个人工智能代理,这些团队相互核实事实并保持诚实。报告认为,公众和科学界低估了当前最佳AI系统的质量。

由数百名人工智能研究人员组成的小组表示,目前该领域正在以错误的方式追求通用人工智能。这一见解是在人工智能促进协会 (AAAI) 的 2025 年人工智能研究未来总统小组会议上披露的。这份冗长的报告由 24 名人工智能研究人员共同编写,他们的专业知识涵盖人工智能基础设施现状和人工智能的社会方面。

该报告包括每个部分的主要内容,以及社区意见部分,受访者被问及对该部分的看法。

“AI 感知与现实”部分由麻省理工学院计算机科学家 Rodney Brooks 主持,引用了 Gartner 炒作周期特征,这是技术炒作中常见的五阶段周期。报告指出,2024 年 11 月,Gartner“估计生成式 AI 的炒作刚刚过了高峰,正在走下坡路”。社区意见部分 79% 的受访者表示,目前公众对 AI 能力的认知与 AI 研发的现实不符,90% 的人表示这种不匹配阻碍了 AI 研究——其中 74% 的人表示“AI 研究的方向是由炒作驱动的”。

布鲁克斯在一封电子邮件中表示:“我之所以采用 Gartner 技术成熟度曲线,是因为这是他们多年来一直使用的方法,它概括了在很多不同领域出现的所有炒作,随后都以失望告终。因此,它在许多领域的存在和准确性告诉我们,我们应该谨慎地接受当前对未来事物的炒作,任何时候都要谨慎行事。”

布鲁克斯补充道:“我认为,公众对人工智能的大量讨论都过于相信炒作的准确性。”

通用人工智能 (AGI)指的是人类级别的智能:假设机器能够像人类一样解释信息并从中学习。通用人工智能是该领域的圣杯,对无数领域和学科的自动化和效率都有影响。想想那些你不想花太多时间做的琐碎任务,从计划旅行到报税。通用人工智能可以用来减轻死记硬背任务的负担,也可以催化其他领域的进步,从交通到教育和技术。

令人惊讶的是,大多数人(475 名受访者中的 76%)表示,仅仅扩大当前的 AI 方法还不足以产生 AGI。

报告写道:“总体而言,这些回应表明了一种谨慎而又向前迈进的方法:人工智能研究人员优先考虑安全、道德治理、利益共享和逐步创新,主张协作和负责任的发展,而不是竞相发展通用人工智能。”

尽管炒作扭曲了研究现状,而且当前的人工智能方法并没有让研究人员走上 AGI 的最佳道路,但这项技术已经取得了突飞猛进的发展。

“五年前,我们几乎不可能进行这样的讨论——人工智能仅限于可以容忍高比例错误的应用,例如产品推荐,或者知识领域受到严格限制的应用,例如对科学图像进行分类,”弗吉尼亚大学计算机科学家、该报告事实性和可信度部分主席亨利·考茨 (Henry Kautz) 在给 Gizmodo 的电子邮件中解释道。“然后,从历史角度来看,通用人工智能开始发挥作用,并通过 ChatGPT 等聊天机器人引起公众关注。”

报告指出,人工智能事实性“远未解决”,最好的法学硕士在 2024 年的基准测试中只能正确回答大约一半的问题。但新的训练方法可以提高这些模型的稳健性,而组织人工智能的新方法可以进一步提高它们的性能。

“我相信,提高可信度的下一阶段将是用合作的团队取代单个人工智能代理,这些团队不断核实彼此的事实,并努力保持彼此的诚实,”考茨补充道。“大多数公众以及科学界(包括人工智能研究人员群体)都低估了当今最佳人工智能系统的质量;人们对人工智能的认知落后于技术一两年。”

人工智能不会消失;毕竟,Gartner 炒作周期不会以“逐渐消失”而结束,而是以“生产力达到顶峰”而结束。人工智能使用案例的不同领域有不同程度的炒作,但随着私营部门、政府官员,甚至是我们自己的家庭对人工智能的呼声越来越高,这份报告令人耳目一新,人工智能研究人员正在非常批判地思考他们所在领域的现状。从人工智能系统的构建方式到它们在世界上的部署方式,都有创新和改进的空间。既然我们不会回到没有人工智能的时代,唯一的方向就是向前。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

人工智能 通用人工智能 AI研究 炒作 Gartner
相关文章