美国有线电视新闻网网站4月2日刊登题为《“互联网之父”和数百位科技专家担心,人类将过度依赖人工智能》的文章,作者是克莱尔·达菲,内容编译如下:
虽然人工智能领域的顶尖人才正竞相让这项技术能够以更类似于人类的方式思考,但美国埃隆大学的研究人员却提出了相反的问题:人工智能将如何改变人类的思维方式?
提出严厉警告
伴随答案而来的是严厉的警告:许多科技专家担心,人工智能将使同理心和深度思考等人类的核心技能退步。
埃隆大学一份题为《人之为人的未来》的近300页报告将在本月出版,出版前被独家提供给有线电视新闻网。未来学家约翰·斯马特在为该报告提交的一篇文章中写道:“眼下我担心,虽然越来越多的少数人将从这些工具中获得更大的好处,但大多数人将继续把自主行动力、创造力、决策力和其他重要技能让给这些仍然原始的人工智能。”
出现这种担忧的背景是,加速人工智能技术开发和采用的竞争正在展开,吸引了巨额投资,同时既受到各国政府的怀疑,也得到它们的支持。科技巨头们正以自己的业务为赌注押注如下信念,即人工智能将改变我们做一切事情(工作、交流、检索信息)的方式。谷歌、微软和元宇宙平台公司等企业正竞相打造能够代表人类执行任务的“人工智能代理”。但专家们在报告中警告说,这些进步可能会使人们在未来过度依赖人工智能。
人工智能的迅速普及已经引发了重大问题,即人类将如何适应这最新的一波技术浪潮(包括它是否会导致人类失业以及生成危险的错误信息)。埃隆大学的报告还质疑了科技巨头的承诺,即人工智能的价值将在于自动完成机械、低端的任务,这样人类就可以把更多的时间花在追求复杂的、富于创造性的目标上。
微软公司和卡内基-梅隆大学今年发表的一项研究也表明,使用生成式人工智能工具可能对批判性思维技能产生负面影响。
引发根本变化
埃隆大学的研究人员对301位科技界领袖、分析师和学者开展了调查,其中包括“互联网之父”之一、如今担任谷歌副总裁的文特·瑟夫;华盛顿大学信息学院教授、曾长期担任微软研究员和项目经理的乔纳森·格鲁丁;阿斯彭学会前执行副会长查理·费尔斯通;以及“未来制造”咨询公司首席执行官特蕾西·福洛斯。作为对该报告的回应,近200名受访者撰写了长篇文章。
超过60%的受访者表示,他们预计人工智能将在未来10年间以“深刻且重大”或“根本性、革命性”的方式改变人类的能力。半数受访者表示,他们预计人工智能将给人类带来好坏参半的变化。而23%的受访者表示,这些变化将主要是坏的变化。只有16%的受访者说,变化多半会是好的。
受访者还预测,到2035年,人工智能将给12种人类特征带来“多半负面”的变化。这些特征包括社交智商和情商、深度思考的能力和意愿、同理心、道德判断的应用和心理健康。
报告称,如果人们为了方便,在完成研究和建立关系等任务时越来越多地求助于人工智能,那么人类在这些方面的能力可能会变差。研究人员写道,这些和其他关键技能的退步可能会对人类社会产生令人不安的影响,比如“两极分化扩大、不平等加剧、人类自主行动力下降”。
该报告的撰写者预计,只有三个方面会发生总体积极的变化:好奇心和学习能力;决策能力;解决问题的能力以及创新思维和创造力。哪怕在如今可用的工具中,可以生成艺术作品和解决编码问题的程序也属于最受欢迎的程序之列。许多专家认为,虽然人工智能可以取代一些人类职业,但它也可能创造出目前还不存在的新工作种类。
警惕“错误方向”
报告详述的许多担忧都与科技界领袖对2035年人们将如何让人工智能融入日常生活的预测有关。
瑟夫说,他预计人类很快就会依赖“人工智能代理”。它们是一种数字助手,可以独立做各种事,包括撰写会议纪要、预订晚餐、谈复杂的商业合同和编写代码。科技公司已经在推出早期的“人工智能代理”产品。亚马逊称,其改进版“亚历克萨”语音系统可以订购杂货。元宇宙平台公司允许各家企业创建人工智能客服,在其社交媒体平台上回答问题。
这些工具可以让人们在完成日常任务时节省时间和精力,还在医学研究等领域提供帮助。但瑟夫担心,人类会“在技术上越来越依赖”可能出故障或出错的系统。
瑟夫在接受有线电视新闻网采访时说:“你也可以预见到所有这些工具的一些弱点。例如,这些东西都不能断电工作,对吧?在这些工具正常工作的情况下,这种重度依赖是很好的。而当它们不起作用的时候,它们可能相当危险。”
瑟夫强调,开发出助人在线上区分人类和人工智能机器人的工具是很重要的。他也强调,要让高度自主的人工智能工具的效用保持透明。他敦促建立人工智能模型的公司确保能查出自己开发的工具何时以及为何出错。
福洛斯对有线电视新闻网说,她预计,人类与人工智能的互动将超出现有范畴:目前,人们通常与屏幕上的人工智能聊天机器人交谈。人工智能技术将被集成到各种设备上,比如可穿戴设备,以及人类可以在其中大声提问的建筑物和住宅。
但能轻易使用人工智能后,人类可能会开始将同理心外包给“人工智能代理”。
福洛斯在文章中写道:“人工智能可能会接管友善、情感支持、看护和筹集善款等行为。”她还说,“人类可能会对人工智能角色和人工智能网红形成情感依恋”,这引得人们担心“真实、双向的关系可能会被更可预测、更可控的数字联系取代”。
人类已经开始与人工智能聊天机器人建立关系,效果好坏参半。例如,有些人创造了已故亲人的人工智能复制品来寻求解脱。但年轻人的父母也采取了法律行动,因为他们说,自己的孩子因与人工智能聊天机器人建立关系而受到伤害。
尽管如此,专家们表示,人们有时间通过监管、数字素养培训和重视真实的人际关系来遏制使用人工智能的一些最糟糕的潜在后果。
美国创新基金会非常驻高级研究员理查德·莱斯曼在报告中表示,未来10年将是人工智能“增强人性还是削弱人性”的转折点。
莱斯曼写道:“我们现在正被‘科技工业复合体’的主导力量推向错误的方向,但我们仍有机会纠正这一点。”(编译/冯雪)