虎嗅 04月08日 10:15
Andrej Karpathy:AI权力归于人民
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

文章探讨了大型语言模型(LLM)对社会的影响,指出其带来的变革性技术与以往不同,对普通人的影响远大于对企业和政府的影响。ChatGPT等工具的普及,极大地提升了个人能力,降低了技术使用门槛。文章分析了LLM在组织层面应用受限的原因,包括专业性需求、复杂性问题和组织惯性。最后,文章展望了未来,强调模型性能、资本支出之间的动态关系,以及技术普及带来的社会公平性。

💡大模型与传统技术扩散路径迥异:传统技术如电力、互联网等,通常由政府或军事领域向企业扩散,最终进入个人用户。而大模型如ChatGPT,对普通人的影响更为显著,个人受益程度远超企业和政府。

💻大模型对个人的赋能:大模型使得普通人能够进行写作、编程、翻译、辅导、总结等多种任务,极大地提升了个人能力,降低了技术使用门槛。个人可以完成原本难以胜任的工作,如“随性写代码”、理解法律文书等。

🏢组织应用受限的原因:组织面临的复杂性、专业性需求、系统集成、安全协议等问题,以及组织文化、惯性等因素,限制了大模型在组织层面的快速应用和效益发挥。

💰未来发展与社会公平:大模型的持续扩散依赖于性能提升和资本投入。目前,LLM性能易得且廉价,但未来可能出现金钱换取更强性能的情况,导致社会精英与大众的差距拉大。然而,至少在当下,技术的发展带来了令人震惊的公平性,权力归于人民。

变革性的技术通常遵循自上而下的扩散路径:最初源于政府或军事领域,随后流入企业,最终才进入个人用户手中。电力、密码学、计算机、航空、互联网、GPS等技术的发展都符合这一逻辑。这样的路径看起来非常自然:新技术往往稀缺、资本密集,在早期阶段需要专业的技术知识才能使用。

但让我觉得极其独特和引人注目的是,大模型展现出一种完全相反的扩散方式——它们对普通人带来的好处远远超过对企业和政府的影响,后者甚至相对滞后。ChatGPT是史上增长最快的消费级应用,每周有4亿活跃用户使用它进行写作、编程、翻译、辅导、总结、深度研究、头脑风暴等各种任务。这不仅是对现有工具的“升级”,而是对个人能力在广泛领域内的倍增器

而且,大模型的使用门槛极低——它们便宜、响应迅速、任何人都可以通过一个链接访问,并且它们能用用户的母语交流,包括语气、俚语甚至表情符号。这太疯狂了。就我所知,普通人从未在如此短时间内体验过如此剧烈的技术解锁体验。

那么,为什么在企业和政府层面,这项技术的效益反而更为微弱呢?

我认为第一个原因是,大模型的能力结构具有独特性:它们提供的是广泛但浅层的“准专家”知识或表现力。换句话说,它们是多才多艺但也容易出错。而一个组织的独特能力,恰恰是能够将多种专才——工程师、研究员、分析师、律师、市场人员等——集中在一个体系内。虽然大模型可以帮助这些专家提升效率,但对组织的提升通常只是“把原本能做的事情做得更快一些”。

相对而言,个人往往只能在某一领域拥有专长,而LLM所提供的“广泛但可用的准专业能力”使得他们可以完成原本做不到的事情:

他们可以“随性写代码”;

可以理解法律文书;

可以读懂高深的研究论文;

可以做数据分析;

可以独立制作用于品牌或营销的多模态内容。

这一切,无需额外的专家参与,便能达到足够的水准

(LLM驱动的能力增益:组织vs.个人,在各领域的对比。箭头代表能力增益的程度)

第二,组织面临的问题远比个人复杂得多,并且需要大量协调。想想看:系统集成、旧有系统、企业品牌或风格指南、严格的安全协议、隐私保护、国际化、合规与法律风险……这些都远非简单任务。变量更多,约束更多,考虑因素更多,容错空间更小。

你不可能轻易把所有这些都塞进一个上下文窗口里。你不能“随便写点代码”就上线。如果模型产生一次灾难性的幻觉,你可能就会因此丢掉工作。

第三,是早有文献记录的大型组织惯性:组织文化、历史惯例、政治权力划分——这些问题在变革期会被进一步放大,还有沟通成本、分布式员工的再培训难度,以及老式官僚主义。这些因素共同构成了新工具——尤其是像大型语言模型这样“多才多艺但不够可靠”的工具——快速落地应用的巨大阻力。

我并不是要低估LLM在企业或政府中的潜力或影响,但至少在目前,在整个社会层面上,LLMs对个体生活的改变远远超过了它对组织结构的改变。真正获得收益的是玛丽、吉姆和乔们,而不是Google或美国政府。

展望未来,大模型的持续扩散当然取决于其性能的持续提升和能力结构的变化。“谁将从中受益”这一分布图本身非常值得关注,它严重依赖于模型性能与资本支出之间的“动态区间”。

目前,最前沿的LLM性能已经非常易得而廉价。到了这个阶段,你花再多的钱,也不能买到更好的性能、更高的可靠性或更多的自主性。你用的是ChatGPT,盖茨也是。但这种情况会持续吗?

训练时的扩展、推理时的扩展、模型集成这些力量正在扩大性能的“动态区间”;而模型蒸馏则是一股相反力量,正在缩小这个区间。

毫无疑问,一旦金钱可以换取显著更强的ChatGPT,一切将会改变。大型组织将会利用其庞大资源来“购买更多智能”。而在“个人”这个范畴内,社会精英也可能重新拉开与大众的距离。他们的孩子将由GPT-8-pro-max-high辅导,而你的孩子只能用GPT-6 mini。

但至少此时此刻,我们正处于技术史上一个独特且前所未有的时刻。回顾过去那些科幻作品,你会发现很少有人预言AI革命会以这样的方式展开。人们曾以为这应该是一个超级机密的政府军用AI大脑计划,由将军们操控,而不是某天早上突然出现的ChatGPT,免费运行在每个人口袋里的设备上。

还记得威廉·吉布森那句名言吗?“未来已经到来,只是尚未均匀分布。”惊喜的是——未来不但已经到来,而且它的分布,令人震惊地公平。

权力归于人民。我个人非常喜欢这样的现实。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

大模型 ChatGPT 技术扩散 社会公平
相关文章