Anyscale 2024-11-07 11:22 北京
“那些伟大的公司，尤其是在科技领域，通常都是由在这个领域深耕多年的行业专家创办的，而这一点常常被忽略。”
图片来源：@Anyscale
Z Highlights
人们跟我说，“AI没用，因为当它不知道答案时，它就胡编乱造。”我就想，那你见过人吗？我九岁的孩子不就是这样。幻觉和创造之间其实有一条很微妙的界线。
如果你有一个现成的产品，然后往里面加AI，就像是在蛋糕烤好后再加面粉一样，效果不好。如果有一种真正具有变革性的技术，你就得从一开始就把它融入到方案中。
我们这个行业需要越来越主动地站出来，解释自己，表达我们的观点。我们想做的就是参与政策过程和政治，帮助大家理解这点。此外，我们还要确保这项技术保持民主和开放。开源非常重要，因为如果这项技术集中在少数公司手里，那就太糟糕了。对社会和文化来说，人人都能获得这些技术是非常重要的。
那些伟大的公司，尤其是在科技领域，通常都是由在这个领域深耕多年的行业专家创办的，而这一点常常被忽略。
Runway正在做的工作让我们能看到AI的未来，以及即将出现的一些新功能。我喜欢Runway的不仅在于他们推动了这个领域的发展，还激励了我们其他人去思考更大的可能性。接下来，我们很幸运能听到科技界最有影响力的人之一，Marc Andreessen的分享。 Marc是Andreessen Horowitz的联合创始人和普通合伙人，他创建了多个价值十亿美元的企业。从创建Mosaic浏览器和共同创办Netscape，到共同创办Loudcloud并成为Opsware，他的成就不言而喻。我很高兴他能来这里分享他的见解，请大家欢迎Marc。
AI，一场科技变革
Anyscale：那我们就直接开始吧。你见证了过去几十年很多重大的科技变革，从互联网、移动互联网到社交媒体和云计算，你能把人工智能放在这些浪潮中来谈谈吗？
Marc：这真是一个宏大的话题！我想推荐一本很棒的书，叫《The Rise of the Machines》，作者Thomas Rid回顾了计算机行业的起源，即20世纪30年代和40年代的计算机革命。当时有一个重大争议，即是否应该按照我们今天理解的方式建造计算机，也就是冯·诺依曼架构。
现代计算机在高速计算方面非常强大，但在处理人际关系或现实世界问题上则不那么擅长。关于电脑是否应该模仿人脑结构的问题，当时已经有了一定的神经科学知识，了解了大脑的基本神经元结构。第一篇关于神经网络的论文发表于1943年，至今已有81年历史。像阿兰·图灵和约翰·冯·诺依曼这样的人物认为这是一种更优秀的架构。随后，计算机行业基本上分裂了，99%的人专注于过去80年的计算机制造方式。总有一小部分人，主要是学术界的运动，坚持建立神经网络，这种状态持续了一个又一个十年。如果你和这个领域的人交流，你会发现多年来其实成果寥寥。坚持这条路需要巨大的信念。有些人获得了人工智能博士学位，却可能一生都在研究这个领域。
在我80年代末上大学时，人工智能经历了多次起伏。当时人们认为自动化医疗诊断等技术近在咫尺，尤其是所谓的专家系统，但实际上技术并未准备好。到了1989年我上大学时，这个领域已经遭受重创。你会遇见一些人，他们一直在辛勤工作，感觉像是在浪费生命。后来发现他们其实是正确的，但从开始到我们认识到这一点花了大约70年。大约从2012年、2013年开始，他们的观点才真正得到验证，那时有了著名的ImageNet测试，证明了电脑在识别物体和图像方面确实做得更好。
这如同一场历经八十年酝酿，却在一夜之间爆发的革命。人们开始探索，于是出现了现在运作良好的无人驾驶汽车。接着，语音识别和语音合成技术也越来越好，尤其是在2010年代中期。然后是Transformer论文的发布，接着就有了ChatGPT、MidJourney、Runway等。现在我们正处于这样一个时代。
结果真是不可思议，因为我们有着80年的丰富历史，积累了很多有效的想法，现在这些想法将以各种方式被使用。
Anyscale：那么，你觉得现在会怎么发展呢？你觉得互联网是个好的类比吗？
Marc：互联网其实不是一个特别好的类比，因为它只是整合和利用了现有的计算机。把网络拼凑在一起，这个类比更像是微处理器或计算机本身。我们公司对人工智能系统的看法是，它们是一种新型的计算机。我们形容传统计算机或所谓的确定性计算机，它们每次给出的答案都是一样的，比较死板，做事情很字面。如果给它们相同的输入两次，结果却不一样，那说明出了大问题，可能是你作为程序员的错。
我们把AI系统看作是概率计算机，你给它们相同的输入，它们却可能给你两个不同的输出，这真是太不可思议了。对于我们这些学过旧模型的人来说，这种现象真是让人惊讶。它们的说法不一样，但你知道它们会产生幻觉。就像是AI有点怀疑的样子，人们会说“AI没用，因为当它不知道答案时，它就胡编乱造。”我就想，那你见过人吗？我九岁的孩子不就是这样。很有意思，然后你看看这些精彩的视频，真是太震撼了。
幻觉和创造之间其实有一条很微妙的界线。现在我们有了真正可以创造的电脑，它们可以生成艺术作品。所以我们基本上又多了一次机会，就像是那种神奇的苹果一样。我们有了传统电脑，现在又有了这种新型电脑，当然，故事的一大部分就是巨大的回报。
为什么现在的人工智能可以工作呢？一方面是专家们把算法搞得很好，另一方面其实摩尔定律提供了计算能力，你只需要大量的计算能力，然后互联网提供了所有的数据。为什么现在的电脑做得更好，人工智能在识别照片里的猫咪方面做得更好呢？因为互联网充满了猫咪的照片。
现在大家都把这些缩放法则当作理所当然，但在20年前、30年前，尤其是我上学的时候，这可不是显而易见的。即使你有了正确的算法，也根本无法让这些系统运作。突然之间，它们竟然能运行了。而且现在变化的速度真是太惊人了，我每周看到的东西都让我目瞪口呆。所以接下来几年我们会迎来无与伦比的创造力。
蛋糕烤好后再加面粉还是从零开始
Anyscale：在A6C看到很多不同行业，我很好奇你对AI在各个领域的影响怎么看，尤其是生物科技、金融或者国防这些方面。
Marc：总的来说，我们相信AI将在这些行业引发变革，并且我们也在积极投资这些领域。AI的发展为我们提供了重新定义现有产品类别的巨大机会。例如，在视频编辑和图像处理领域，未来我们可能不再依赖Photoshop或Final Cut Pro，而是通过与电脑对话来生成和编辑图像。
在一些传统行业中，人们习惯于按照既定的方式运作，但实际上这些方式可能完全有别的可能性。这为初创公司提供了从零开始的机会，因为它们可以不受传统束缚。我们认为这在科技行业将是一个重大转变。目前，每个老牌科技公司都在努力将AI融入他们的产品中。
在产品开发上，我们鼓励初创公司从一开始就将AI作为核心。简单地在现有产品中添加AI，就像在烤好的蛋糕上撒面粉，效果并不理想。真正的变革性技术需要从一开始就融入产品设计中。
我们注意到，一些成立五年左右的公司，他们通常会在产品介绍的第六点才提到AI功能，这通常是后来添加的。这些公司正处于转型期，面临着从移动到网页或反之的挑战。
尽管像Google和Facebook这样的老牌公司在适应这些变化方面做得还不错，但这种转变仍然充满挑战，因为运作方式完全不同。我认为初创公司在这方面有很好的机会，但行业竞争将非常激烈，我们需要密切关注。
AI与“药物发现”
Anyscale：我理解了软件产品的情况，但你认为人工智能在生物学领域会扮演什么角色？
Marc：在生物科技领域，一个显著的趋势是药物发现（drug discovery）的转变，从传统的试错方法转向工程化设计。这意味着我们正在从基础开始设计药物，包括从头开始设计新药。mRNA技术就是这种转变的一个例子。
新冠疫苗的基础就是个很好的例子。Moderna和Pfizer是第一批推出类似技术的新冠疫苗的两家公司。Moderna在收到中国发来的新冠病毒基因组的邮件后，仅仅两天就研发出了第一款新冠疫苗，那个基因组还只是个Word文档。这首先就挺令人震惊的，因为在Word里拼写检查可是很严格的。
虽然我们希望一切顺利，但结果确实如此。2020年1月，Moderna就有了新冠疫苗的初步设计，随后进行了测试和验证。mRNA技术已经成为国家工程平台的一部分，这为引入人工智能提供了基础。
Anyscale：你觉得我们现在在生物学方面的数据够吗？
Marc：特别难，因为获取信息很复杂。如果你想要一个完美的生物技术产业，理想情况下你肯定想要把所有人的健康数据都整合在一起，甚至包括每个人的基因数据，但在美国，这一切都是完全非法的，你根本不被允许这么做，要是这样做了，肯定会直接进监狱。
地缘政治——the Third Offset
Anyscale：说到中国，你觉得人工智能会如何影响地缘政治或者国防等领域呢？
Marc：这其实是一个领域，理论家和防务人员早就走在前面了，他们在几年前就开始关注这个了。大约在2010年代中期，美国和中国的军事理论都发生了重大变化。在美国，国防部有一个叫“offset”的概念，“offset”基本上就是一种新技术，会从根本上改变战争的方式。他们宣布人工智能就是其中之一。
自主技术的发展标志着“the Third Offset”的开始，这是继核武器（the First Offset）和精准制导武器 （the Second Offset）之后的又一次重大转变。中国也在公开推动基于人工智能的军事系统重建。
随着通信技术的进步，GPS在现代战争中扮演了关键角色，但人工智能现在被视为最关键的技术。美国已经预测到这一点，国防部也认识到了人工智能的重要性。例如，Predator无人机的自主飞行能力在反恐行动中发挥了重要作用，这大约始于十年前。中国也在这一领域进行了重大投资，并公开讨论了人工智能在军事系统中的应用。
Anyscale：考虑到目前对人工智能的热潮，这种转变似乎来得很早。是什么触发了这一切？
Marc：自动驾驶汽车的发展是主要的触发点。2005年的DARPA自动驾驶汽车挑战赛标志着这些基础系统的启动。随后，飞机上的自动驾驶系统变得越来越先进，引发了关于是否需要飞行员的讨论。如果移除飞行员，就可以设计出更灵活、更快的飞机，因为不需要考虑飞行员的生存问题。这些变化提高了飞行的安全性，从而加速了整个领域的发展。
Anyscale：你认为战场本身是影响最大的地方，还是它会影响政策、威慑或其他地缘政治方面？
Marc：这将改变很多方面。历史上，战争防御主要依赖于数量和资源，比如士兵和坦克的数量。例如拿破仑曾经说过，“上帝站在大军的一边。”但未来，战争将更多地依赖于技术和经济实力。拥有最好的技术和最多的资金的国家将占据优势，因为资金可以用于研发或购买最先进的技术。这改变了力量平衡，使得科技竞争成为国家战略的关键。
现在，科技已成为一个高度政治化的话题，部分原因是它对社会的影响。我所在的公司在政治上的活跃度增加，我在华盛顿的时间也更多了。政治家们的态度并不总是一致的，而人工智能可能彻底改变每个人的工作和社会结构，这让人感到恐惧。
Anyscale：你提到技术近年来变得政治化，这背后的原因是什么？
Marc：这主要是我们的责任。包括我自己、我的公司以及整个科技行业，尤其是我们这些计算机科学出身的工程师，一直认为我们的工作极为重要，并希望全球都能认识到这一点。现在，人们终于意识到了。
长久以来，人们并未意识到这一点，但现在他们做到了。这就像一只追公交车的狗，从未想过能追上，但当它真的追上并咬住排气管时，它该如何是好？公交车继续前行，狗则被拖着跑。我们就像那只狗，这是我们行为的后果，我们赢了。
我们做的事情真的很重要，软件、人工智能、芯片真的很重要，互联网更是重要。这些东西对我们来说不仅重要，对所有人都是如此，它们在经济上、文化上、社会上都有很大的影响。好莱坞对AI在电影制作中的潜力感到震惊。比如说，像过去那些伟大的电影演员，他们的形象如果能被AI渲染出来，接下来的一千年里，电影行业会不会一直是Tom Cruise的电影，被无数次地用AI重新制作？这会不会一直这样呢？新演员的权利问题，还是大家都只会Tom Cruise的电影呢？技术上我们是能做到的，所以好莱坞的人都超级紧张。不满情绪日益高涨，今天码头工人还发起了一场大罢工，反对科技，仿佛他们不想再看到自动化的发展。
民主与监管
Anyscale：你认为AI是否能提升讨论质量，改善治理，还是这事儿还得往后推？
Marc：AI的普及非常民主化，这是它的一大优势。回想计算机技术的普及，从50年前的大型计算机，到个人电脑，再到智能手机，AI的发展也遵循了类似的路径。如今，最先进的AI系统，如ChatGPT和Claude，首先向公众开放，使用量激增。普通人现在可以利用这些系统来提问、获取指导、解决复杂问题，甚至处理政府事务和法律问题，仿佛每个人都有了一个智能助手。
这为普遍提升智力水平提供了可能，每个人都能随时获得一种前所未有的智力支持。这不仅适用于政治家、政策制定者，也适用于军事策划者等职业。我们曾称之为决策支持系统，现在它为每个人提供了变得更聪明的机会。希望这能促使争论更加理性，尽管情感因素仍然强烈。
我们行业需要更积极地参与，解释我们的技术，参与政策和政治过程，帮助公众理解AI。同时，确保AI技术保持民主和开放至关重要。开源对于防止技术集中在少数公司手中非常重要，确保社会各阶层都能平等地获得这些技术对社会和文化的发展至关重要。
Anyscale：关于开源，你怎么看？你认为未来会如何发展？真的会有多种可能性，还是结果已经注定？
Marc：这是个重要问题。目前确实存在一场激烈的辩论，有人主张限制开源，尤其是开源人工智能及其数学基础。作为工程师，我觉得这难以置信。线性代数和梯度下降等基础算法并不复杂，学校里广泛教授，连我九岁的孩子都在学，YouTube和教科书也提供了大量教程。斯坦福的新生中有一半都在学习人工智能入门课程。
然而，华盛顿的讨论令人不安。他们认真考虑限制开源，欧盟已经实施了压制性监管，最近在人工智能领域也是如此，实际上在很大程度上禁止了它。这导致欧盟的科技初创公司数量大幅减少，市场对此做出了反应。这是一个警示，说明了限制开源可能带来的后果。
在美国，也有很多人关注这个问题，加州基本上想要效仿欧盟的模式，并且积极游说。一些人出于对深刻社会威胁的信仰，另一些人则是出于商业利益，希望建立垄断或得到政府保护。这两组人形成了一种不寻常的联盟。在加州，我们刚刚经历了一场真正的斗争，政策在这里扮演着非常重要的角色。
机器人革命前夜
Anyscale：这里是Ray Summit，主要是关于人工智能基础设施的，那对于构建这类基础设施的人来说，当前的人工智能浪潮意味着什么？我们能从以往的技术变革中学到什么？
Marc：我们正处于一个关键时刻，你们所在的领域正处于大发展的初期。未来五年或十年，我们回顾现在，可能会觉得这些初期技术应该被放进博物馆。我们每个人都将在这个过程中扮演重要角色，这是一个黄金时期。显然，我们面临无数技术挑战，但我们也在一个激动人心的探索阶段。
在人工智能和机器人领域，我们曾预期基础的家务机器人会先出现，而艺术创作机器人则需要几十年时间。但现实是，让机器人创作音乐或绘画相对简单，而完成家务却复杂得多。
不过，人工智能革命正在发生。今天我们主要讨论的是软件层面。但机器人革命也即将到来。我给你讲一个我最喜欢的例子，有个中国公司叫Unry，他们制造的机器人狗售价仅1600美元，远低于波士顿动力的5万美元。中国正在迅速形成机器人供应链，无人机就是一个例子，中国几乎主导了全球市场。不过这还涉及到很多关于如何制造机器人软件的问题。像埃隆·马斯克和其他很多初创公司正在努力推进这个领域。
我们可能会先经历一个“碎片化”的人工智能革命，然后是更全面的版本。未来人形机器人可能更像20美元的订阅服务，而不是2000万美元的主机系统。Unry的人形机器人目前售价约50,000美元，他们的硬件能力进展迅速，似乎预示着人形机器人的普及。我不知道具体的时间表，但硬件成本可能降至两万到一万美元之间，届时我们可以拥有许多这样的机器人，并考虑订阅模式。
这个过程可能比我们想象的要快。现在的这些人形机器人拥有自己的控制系统，使用强化学习算法，比如尝试在不弄乱桌子的情况下剥开鸡蛋。同时，软件领域也在努力结合这些方法，创造出能推理和规划的多模态模型。Llama的新版本和OpenAI的o1推理和规划引擎都是这方面的尝试，我们可能在一年内拥有一个单一的多模态模型，能够驱动机器人。
回到这个会议的主题。特斯拉的自动驾驶汽车之所以成功，是因为他们让一百万辆车上路，收集数据进行深度学习，从而实现自动驾驶。这种模式可能在几年内让我们生活在一个有十亿个人形机器人的时代，收集数据并不断改进，这可能是我们构建过的最大规模的技术系统之一。
竞争：鲨鱼与小鱼
Anyscale：我们聊聊投资AI吧，现在预测谁将成为赢家可能为时过早，你的看法在过去几年有变化吗？
Marc：经营一家公司与投资公司大不相同。作为经营者，你需要清晰的战略和说服团队。而作为投资者，我们可以更灵活，比如投资不同的技术方案，包括基础设施、应用程序、开源和闭源项目。
所以关于未来的一些问题，很多都是这样，在投资方面，很多问题都是经济性质的，比如价值在哪里，收入在哪里，利润又在哪里。现在我给你提一个很重要的问题，就是像OpenAI这样的大型语言模型，它们的业务是否会因为规模效应而变成垄断和无限利润？因为最大的公司会有最好的模型，它能更好地回答所有问题，然后它们就可以随便定价。这可能会有超高的利润，成为世界上最棒的生意，基本上这就是搜索领域的情况，对吧？就像谷歌最终达到了那个位置。答案可能是，也可能不是。实际上，这些公司是不是都在拼命压价呢？结果发现，卖智能其实就像卖米一样，任何人都能做出一个大型语言模型。现在有很多开源的大语言模型，每天都有新的创业公司在涌现。其实谁都可以去网络上抓取数据，谁都可以买显卡，基本上都能得到差不多的结果。之前有个著名的谷歌备忘录泄露了，里面提到“我们没有护城河，其他人也没有”，就是说如果大家用的是同样的数据，就会得到相似的结果，大家的数据都是一样的。
所以在这种情况下，可能就是往下竞争了。有证据表明，这可能是走向最低价，因为LLM输出每个token的价格在过去一年里下降了100倍，这个速度远远超过摩尔定律。按理说，如果有人从这个业务中获利，情况应该正好相反。可能这就是所谓的“利润无望的繁荣”，就像卖米或其他商品一样，这些公司的收入会很高，他们的利润空间会很小。现在没有人能给出确切的答案，这也取决于生态系统里发生的事情。Meta和Llama的开源模型正在改变未来的方向，因为完全竞争的开源模型确实会改变很多事情。所以，关于价值如何获取，有很多大问题需要思考。其实我们现在还不知道会发生什么，所以我们尽量不去预先判断。
很多AI初创公司在GPU上的投入巨大。Peter Thiel有个观点，他觉得我们在这些软件公司上浪费时间，不如把钱都投到英伟达上，干脆就这样算了。过去大概十年，这其实是个很不错的策略。因为英伟达吸收了所有AI初创公司的风险投资和收入，且在芯片技术上遥遥领先，除此之外，他们还有像CUDA这样的其他技术，所以他们在技术上的锁定非常强。
不过，另一种观点是，芯片行业的变化很快，巨大的利润池吸引了竞争，市场力量开始发挥作用。全球的芯片公司，如AMD、Qualcomm、三星，以及许多创业公司，都想分一杯羹。GPU最初是为了图形而非AI开发的，所以专门为AI设计的芯片可能完全不同。谷歌和亚马逊都有自己的芯片，芯片的数量正在激增。五年后，英伟达可能仍然是很棒的公司，但只是生态系统的一部分。
这些事情都很难预测，因为它们取决于人们的行为。大公司的决策、创业公司和风险投资者的选择，以及客户和用户的反馈，都会影响这些结果。芯片行业可能会有很大的收入增长，但利润可能相对较小。
也许可以给在场的未来创始人和现在的创始人一些建议，关于在今天的环境下创办或经营企业。对于想要创业的人来说，重要的是，通常来说，仅仅想创业并没有太大意义。那些伟大的公司，尤其是在科技领域，通常都是由在这个领域深耕多年的行业专家创办的，而这一点常常被忽略。很多成功的科技公司都有一些传奇的创始故事，比如说，有人会说“我那时候还只是个小孩，心里有个想法，结果一切都成真了。但其实不是的，我在实验室里待了十年，努力让这些东西运作。我上过学，也在大公司工作过，还在一家初创公司待过，我学到了很多。因此，大多数成功的初创公司都是那些在行业里摸爬滚打了五年、十年或十五年，真正深入了解问题本质并找到解决办法的人创办的。
接下来十年里，这个群体里可能会涌现出很多优秀的创业公司。在这种快速变化的环境中，企业的运作方式也在不断变化。我们总是建议大家多做实验。每当你负责一个现有的业务时，总会感到一些压力，因为你有很多现有的客户，现有的员工，我已经做出了这些承诺。做新事物总是感觉有点奇怪和害怕，因为会想如果不成功怎么办？这可能会真的破坏我已有的东西。所以我们总是建议的做法是，尽量先找出一种方法，尝试进行尽可能小的实验来验证一个假设。可以选择一小部分客户或者市场的一个小细分进行探索。同时，尽量把这种做法变成一种习惯，在公司尝试进行很多这样的实验，积累选择价值，边做边学，但不承担太大的风险。当你发现了机会，觉得找到了方向，那时候就可以全力投入业务了。
原文：Marc Andreessen on AI, Geopolitics, and the Regulatory Landscape | Ray Summit 2024
https://www.youtube.com/watch?v=ANLnrnwGXm0
编译：Ada
-----------END-----------
? 我们正在招募新一期的实习生
? 我们正在寻找有创造力的00后创业者
关于Z Potentials
