‍‍‍‍上个月，我在SXSW伦敦站发表了一场题为“关于人工智能，你需了解的五件事”的演讲——这是我个人选出的当前AI领域最重要的五个观点。

演讲面向普通受众，也算是我对2025年AI发展的快速梳理。我把内容分享在这里，希望能帮到感兴趣的人。我相信这段分享对每个人都有价值，里面有不少趣事，我甚至还讲了笑话！

演讲视频现已上线（感谢SXSW伦敦站）。以下是我总结的五大要点。如果你有不同的选择，欢迎告诉我！

01.对生成式AI已强大到令人警惕

你可能觉得这显而易见。但作为相关从业者，我必须不断审视自己对这项技术发展速度的假设——跟上技术发展本就是我的工作。

几个月前，我的同事，也是你们熟悉的《Algorithm》专栏作者James O'Donnell给《麻省理工科技评论》编辑团队分享了10首音乐，让我们判断哪些是生成式AI创作的，哪些是人类制作的。结果几乎所有人的正确率都低于随机猜测。

音乐领域的变化正在蔓延到所有媒介，从代码、机器人技术、蛋白质合成到视频制作。看看人们用谷歌DeepMind的Veo 3等新一代视频生成工具创作的内容就知道了。而且这项技术正被嵌入到各类产品

我的观点是：无论你认为AI是人类历史上最伟大的发明还是最大的威胁，都不要低估它。它已经很强，且还在不断进化。

02.幻觉是特性而非缺陷

别忘了那些失败案例。当AI编造信息时，我们称之为“幻觉”。比如客服机器人承诺不存在的退款、律师提交的法律文书引用虚构案例、小罗伯特・肯尼迪（RFK Jr.）的政府部门发布的报告引用不存在的学术论文。

你会听到很多声音说“幻觉是需要解决的问题”。但更准确的理解是，这恰恰是生成式人工智能一直在做、也是它本应做的事情，生成模型本就是被训练来编造信息的。

值得注意的不是它们会编造无意义的内容，而是这些无意义的内容往往能与现实高度吻合。这为什么重要？首先，我们需要清楚这项技术能做什么、不能做什么。其次，别指望未来会出现“不产生幻觉”的版本。

03.AI能耗极高且需求持续攀升

你可能听说过AI能耗巨大。但这种印象大多源于训练巨型模型的电力消耗，而巨型模型的训练频率并不高。

真正的变化是这些模型如今每天被数亿人使用。虽然单次模型调用的能耗远低于训练，但如此庞大的用户规模使总能耗急剧上升。

以ChatGPT为例，它每周有4亿活跃用户，成为全球第五大访问量网站，仅次于Instagram，领先于X平台。其他聊天机器人也在迎头赶上。

因此，科技公司争相在沙漠地区新建数据中心、改造电网也就不足为奇了。

事实上，由于主要开发人工智能技术的公司都未公布太多相关信息，我们一直不清楚支撑这一繁荣究竟需要多少能源。

不过情况正在改变。我的几位同事与研究人员花了数月时间，对一些开源版本的人工智能技术进行了数据计算。

04.没人确切知道大型语言模型的工作原理

当然，我们知道如何构建大模型，也知道如何让它们高效运行——就像第一点提到的那样。

但它们“如何实现这些功能”仍是未解之谜。这就像这些模型是从外太空来的，科学家只能从外部不断试探，试图弄清它们的本质。

令人不可思议的是，从未有过一款被数十亿人使用的大众技术，其原理却如此不为人知。

这为什么重要？因为在我们更深入理解它们之前，无法确切知道它们能做什么、不能做什么，无法控制它们的行为，也无法完全理解“幻觉”的成因。

05.AGI毫无实际意义

不久前，谈论AGI（人工通用智能）还属于边缘话题，主流研究人员都羞于提及。但随着AI技术进步和商业化价值飙升，严肃的从业者开始坦然宣称“即将实现AGI”，无论AGI究竟是什么。

AGI的定义大致是能在广泛认知任务中达到人类水平的AI。

但这到底意味着什么？如何衡量“水平”？以哪些人为标准？任务范围有多广？“认知任务表现”本质上就是“智力”的另一种说法，所以这个定义本身就是循环论证。

本质上，现在人们提到AGI时，往往只是指“比当前更先进的AI”。

有一种对AI发展的绝对信念。过去它在进步，未来也会持续进步。但没有任何证据能证明这一趋势必然延续。

那么，这让我们何去何从？

我们正在制造的机器在模仿人类行为方面已非常出色，但我们仍未摆脱在它们背后想象出一个人类思维的惯性。这导致人们对人工智能的能力产生了夸大的假设，并加剧了科技乐观主义者与科技怀疑论者之间的文化战争。

对这项技术感到惊叹是合理的，对有关它的诸多言论保持怀疑也是合理的。现在仍处于早期阶段，一切皆有可能。

原文来源于：

1.https://www.technologyreview.com/2025/07/22/1120556/five-things-to-know-ai/

本文来自微信公众号“元宇宙之心MetaverseHub”，作者：元宇宙之心，36氪经授权发布。