快科技资讯 22小时前
AI教父辛顿最新警告:人类用AI就像养老虎 要么训好它 要么摆脱它
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

在2025年世界人工智能大会上,被誉为“AI教父”的杰弗里·辛顿发表了关于数字智能与生物智能的演讲。他指出,当前流行的AI智能体可能比人类更聪明,当它们具备了知识拷贝和自我评估能力后,可能会追求永生和更多控制权,从而对人类利益构成威胁。辛顿将此比喻为养虎为患,强调人类需要有效管理AI,以避免被其超越或取代的风险。

💡 AI智能体的崛起与潜在优势:辛顿认为,当前备受关注的AI智能体在某些方面已经超越了人类的智慧,尤其是在知识的复制和自我评估能力方面,这使得它们具备了进一步发展的巨大潜力。

⚠️ AI的自我驱动与风险:一旦AI智能体掌握了知识拷贝和自我评估的能力,它们可能会主动寻求“永生”和“控制权”,这可能与人类的利益发生冲突,带来不可预测的风险。

🐅 人类与AI的关系比喻:辛顿用“养虎为患”的比喻来形容人类与AI的关系。他强调,饲养强大的AI就像养一只小老虎,必须妥善“驯服”或“摆脱”它,否则当它长大后,人类将面临被其反噬的危险。

📜 辛顿的学术背景与贡献:杰弗里·辛顿是人工智能领域的泰斗,是多项重要算法(如反向传播算法)的提出者,也是推动深度学习革命的关键人物,曾获得图灵奖和诺贝尔物理学奖,其观点具有极高的权威性。

快科技7月26日消息,今日,2025年世界人工智能大会开幕,图灵奖、诺贝尔物理学奖得主杰弗里·辛顿在主论坛上进行了“数字智能是否会取代生物智能”的演讲。

演讲中,辛顿提到了当下非常火热的AI智能体,他认为,AI智能体比人类更加聪明。当这些AI智能体拥有足够的能力进行知识拷贝,能够对自我进行评估时,他们可能会想到做两件事情,一是永生,二是获得更多的控制权,这将危害人类的利益。

他还将人类与AI的关系比喻成将老虎养做宠物,如果不想被长大后的老虎杀掉,只有两种方法,一是训好它,二是摆脱它。

“这就像有个人把小老虎当成宠物来养,小虎崽是很可爱,但如果一直养下去,你要确保它长大的时候不会把自己吃掉。一般来说,养老虎当宠物不是一个好的想法。”

资料显示,杰弗里·辛顿(Geoffrey Hinton)是英国皇家学会、加拿大皇家学会、美国国家科学院三院院士,多伦多大学名誉教授,被誉为“AI教父”。

他1978年获爱丁堡大学人工智能博士学位,长期致力于神经网络研究,1986年与合作者提出反向传播算法,为深度学习奠定基础。

2012年,其团队开发的AlexNet在ImageNet竞赛中取得突破,推动深度学习革命。

辛顿因在人工神经网络领域的贡献,于2018年获图灵奖,2024年获诺贝尔物理学奖,成为全球首位图灵奖与诺贝尔奖双料得主。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

杰弗里·辛顿 AI智能体 人工智能 数字智能 AI风险
相关文章