2024-09-24 12:27 湖北
OpenAI CEO Sam Altman罕见发布长文描绘「智能时代：The Intelligence Age」，热度非常高，力挺超级智能（superintelligence ），并暗示未来可以实现（will have superintelligence in a few thousand days ）
全文深刻见解：
AI将指数级地增强人类能力，使今天的成就看起来像是魔法。
社会作为一个集体智慧运作，AI将显著放大这种共享的智慧。
深度学习的可扩展性是AI快速发展和潜力背后的主要驱动力。
由AI驱动的智能时代，承诺了前所未有的全球繁荣和问题解决。
获得丰富的计算和能源对于民主化AI和防止不平等至关重要。
驾驭AI的风险是至关重要的，以最大化其好处并确保一个积极的未来。
全文详情：
在未来几十年里，我们将能够做到一些对我们的祖父母来说像是魔法的事情。
这种现象并不新鲜，但它将被新地加速。随着时间的推移，人们的能力已经显著提高；我们现在已经能够完成一些我们的前辈认为不可能的事情。
我们之所以更有能力，并不是因为基因变化，而是因为我们受益于社会基础设施比我们中的任何一个人都更聪明、更有能力；在重要的意义上，社会本身是一种高级智能。我们的祖父母——以及他们之前的几代人——建造了伟大的事物。他们为人类进步的脚手架做出了贡献，我们都从中受益。AI将为人们提供工具，帮助我们解决难题，并帮助我们在我们自己无法想出的脚手架上增加新的支柱。进步的故事将继续，我们的孩子们将能够做到我们无法做到的事情。
这不会一蹴而就，但我们将很快能够与AI合作，帮助我们完成比没有AI时多得多的事情；最终，我们可以每个人都有一个个人AI团队，由不同领域的虚拟专家组成，共同创造我们能想象到的几乎所有东西。我们的孩子们将有虚拟导师，可以提供任何主题、任何语言以及他们需要的任何速度的个性化指导。我们可以为更好的医疗保健、创造任何人能想象的任何类型的软件以及更多方面想象类似的想法。
有了这些新的能力，我们可以拥有一种在今天看来难以想象的共同繁荣；在未来，每个人的生活都比现在任何人的生活更好。繁荣本身并不一定能让人们快乐——有很多富有但痛苦的人——但它将有意义地改善世界各地人们的生活。
以一种狭窄的方式看待人类历史：经过数千年的复合科学发现和技术进步，我们已经知道如何融化沙子，添加一些杂质，以惊人的精确度在极其微小的尺度上排列成计算机芯片，通过它运行能量，并最终得到能够创造越来越能干的人工智能的系统。
这可能是迄今为止历史上最重要的事实。我们可能在几千天内拥有超级智能（！）；可能需要更长的时间，但我确信我们会到达那里。
我们是如何站在下一个繁荣飞跃的门槛上的？
用三个词来说：深度学习奏效了。
用十五个词来说：深度学习奏效了，随着规模的可预测改善，我们投入了越来越多的资源。
就是这样；人类发现了一个算法，它真的、真正地能够学习任何数据分布（或者更确切地说，产生任何数据分布的“规则”）。在令人震惊的精确度上，可用的计算和数据越多，它就越能帮助人们解决难题。我发现无论我花多少时间思考这个问题，我都无法真正理解它的重要性。
我们仍然有很多细节需要弄清楚，但被任何特定挑战分心都是错误的。深度学习奏效了，我们将解决剩余的问题。我们可以说很多关于接下来会发生什么的事情，但主要的一点是，随着规模的增长，AI将变得更好，这将导致世界各地人们的生活得到有意义的改善。
AI模型很快将作为自主个人助理，代表我们执行特定任务，比如代表你协调医疗保健。在更远的未来，AI系统将变得如此出色，以至于它们帮助我们制造更好的下一代系统，并在各个领域取得科学进步。
技术将我们从石器时代带到了农业时代，然后是工业时代。从这里开始，通往智能时代的道路是用计算、能源和人类意志铺就的。
如果我们希望将AI交到尽可能多的人手中，我们需要降低计算成本并使其丰富（这需要大量的能源和芯片）。如果我们没有建造足够的基础设施，AI将是一个非常有限的资源，战争会为之而战，它将主要成为富人的工具。
我们需要明智但坚定地行动。智能时代的黎明是一个具有非常复杂和极高风险挑战的重大发展。它不会是一个完全积极的故事，但上行空间如此巨大，以至于我们有责任对自己和未来，弄清楚如何驾驭我们面前的风险。
我相信未来将是如此光明，以至于没有人能通过现在试图写下来来做到公正；智能时代的定义特征将是巨大的繁荣。
虽然这将是渐进的，但惊人的胜利——修复气候、建立太空殖民地和发现所有物理学——最终将成为常态。有了几乎无限的智能和丰富的能源——产生伟大想法的能力，以及实现它们的能力——我们可以做很多事情。
正如我们对其他技术所看到的，也会有缺点，我们需要现在就开始工作，以最大化AI的好处，同时将其危害降到最低。作为一个例子，我们预计这项技术将在未来几年显著改变劳动力市场（好的和坏的），但大多数工作的变化会比大多数人想象的要慢，我并不担心我们会没有事情做（即使它们看起来不像是今天的“真正的工作”）。人们有一种天生的创造欲望和对彼此有用的欲望，AI将使我们能够像以前一样放大我们自己的能力。作为一个社会，我们将再次处于一个扩张的世界，我们可以再次专注于玩正和游戏。
我们今天做的许多工作在几百年前的人看来就像是微不足道的浪费时间，但没有人回顾过去，希望自己是一个点灯人。如果一个点灯人今天能看到这个世界，他会认为他周围的繁荣是难以想象的。如果我们能从今天开始快进一百年，我们周围的繁荣也会感觉同样难以想象。
https://ia.samaltman.com/推荐阅读
• 对齐LLM偏好的直接偏好优化方法：DPO、IPO、KTO
• RAG全景图：从RAG启蒙到高级RAG之36技，再到终章Agentic RAG！
• Agent到多模态Agent再到多模态Multi-Agents系统的发展与案例讲解（1.2万字，20+文献，27张图）
欢迎关注我的公众号“PaperAgent”，每天一篇大模型（LLM）文章来锻炼我们的思维，简单的例子，不简单的方法，提升自己。
