IT之家 2024年11月04日
前 OpenAI “AGI 准备工作”负责人:AI 将很快在计算机上完成人类能做的一切
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

OpenAI前政策研究负责人Miles Brundage预测,未来几年内,行业可能开发出能够远程完成几乎所有计算机操作的系统,包括使用鼠标键盘和模拟人类形象进行视频聊天。多位OpenAI高管和研究人员认为通用人工智能(AGI)将在几年内实现,其中包括OpenAI联合创始人John Schulman和竞争对手Anthropic的CEO Dario Amodei。Brundage在离职OpenAI后,表达了对其他实验室在AGI安全方面的担忧,并希望以独立身份推动相关政策研究和倡导,以确保AGI的安全发展。

🤔OpenAI前政策研究负责人Miles Brundage预测,未来几年内,行业可能开发出能够远程完成几乎所有计算机操作的系统,例如使用鼠标键盘、模拟人类形象进行视频聊天等。

🧑‍🏫OpenAI联合创始人John Schulman和竞争对手Anthropic的CEO Dario Amodei等多位行业人士也认为通用人工智能(AGI)将在几年内实现。

⚠️Brundage在离职后表达了对其他实验室在AGI安全方面的担忧,并希望以独立身份推动相关政策研究和倡导,以确保AGI的安全发展。

🚨近来,OpenAI不少高层安全研究人员和高管离职,也有人指出公司在AGI发展与安全之间存在平衡问题。

🕵️‍♂️Brundage表示,他的离职并非由于具体的安全问题,而是希望以非营利机构的身份,更加独立地进行政策研究和倡导,减少偏见,避免观点被误认为是企业宣传。

IT之家 11 月 4 日消息,据《商业内幕(Business Insider)》当地时间 3 日报道,OpenAI 前政策研究与“AGI (IT之家注:通用人工智能)准备工作”负责人 Miles Brundage 表示,未来几年行业可能会开发出“几乎能够远程完成”人类能通过计算机操作的所有任务的系统,包括使用鼠标和键盘,甚至在视频聊天中呈现出“人类形象”。

对于 OpenAI 等公司来说,开发具备 AGI 的机器的时间表是业内广泛关注的热点话题。一些领域中的重要人物相信,这项技术将在未来数年内到来。OpenAI 的联合创始人、八月离职的研究科学家 John Schulman 也认为 AGI 可能会在几年内实现。OpenAI 的竞争对手 Anthropic 的 CEO Dario Amodei 则预测,这项技术的某种版本可能会在 2026 年问世。

Brundage 上月宣布离开 OpenAI,结束了他在公司的六年多职业生涯,对于 OpenAI 的 AGI 时间表,他拥有较深的理解。在任职期间,他曾向公司高层提供 AGI 的相关建议,并参与了 OpenAI 的一些关键安全研究创新,包括引入外部专家对产品进行漏洞测试的“红队测试”。

近来,OpenAI 不少高层安全研究人员和高管离职,也有人指出公司在 AGI 发展与安全之间存在平衡问题。Brundage 表示,他的离职并非由于具体的安全问题。“我对其他实验室完全掌握这些事项不抱信心。”

据IT之家了解,在离职公告中,他表示希望以非营利机构的政策研究员或倡导者身份产生更大影响。“首先,我无法从事我想做的所有工作,尤其是跨行业的关键问题。所以不仅是 OpenAI 的内部事务,还包括应该出台哪些监管措施等。”他说。

“第二,我希望能够更加独立,减少偏见。我不希望人们因为我是公司内部人士就将我的观点当成简单的企业宣传。”

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

通用人工智能 AGI OpenAI 人工智能安全 政策研究
相关文章