原创 一支烟一朵花 2025-02-14 10:14 上海
原文：https://www.generalist.com/briefing/ai-and-the-burden-of-knowledge
作者：Mario Gabriele
今天读了一篇很不错的文章，Mario从人类挖掘知识的过程谈到学习知识带来的负担与后果，从而影响了创新的潜力，虽然人类现在获取知识的途径越来越多，知识就像年轮一样一圈一圈的包裹，短短百余年，新式教育出现了，学校有了精通各类学科的教师，孩子们要从3岁开始到大学毕业专职学习，如果要做到顶尖硕博，再读个十年八年。
人类累积知识到个人大脑的过程似乎需要越来越多的时间。
但是人类又是一个寿命有限的生物，这种知识学习对一个具体个性化的人来说真的有效吗？
AI出现了，知识存储，萃取，生成的模式发生了变化，短短几年AI已经把人类知识精华学习完成，现在随着DeepSeek, GPT,Kimi等一大批好用的AI工具和平台普及后，人获取知识的途径也发生了巨大变化，AI产生的知识会像麦当劳肯德基一样速食，但是当AI逐渐不再需要真实人类创造的知识时，人类的信任机制和社会结构可能都会受到挑战。
还有一点，人类可能没办法真正理解AI创造的“世界”，那个时候，到底什么是虚拟，什么是现实？谁有定义权？
知识的山与人类的挖掘
- 知识被比喻为一座山，人类和动物都在努力挖掘以获取知识。动物的学习过程是本能的，而人类的学习则是有意识的，且具有传承性。
人类与知识的关系
- 人类通过语言、文字、教育系统等工具不断挖掘知识，每一代人都在前人的基础上继续探索。随着知识的积累，人类到达知识前沿的时间越来越长，导致“知识负担”（The Burden of Knowledge）的增加。
知识负担的后果
- 知识负担导致人类创新的“黄金年龄”推迟，从1900年的30岁左右推迟到2000年的近40岁。人类的生命周期限制了其在知识前沿的停留时间，从而影响了创新潜力。
人工智能的出现
- 人工智能（AI）被比喻为“永恒的大脑”（Eternal Encephalon），它不会衰老或死亡，且能够持续改进。AI的学习方式与人类不同，它能够快速到达知识前沿并继续挖掘。
AI对人类的影响
- AI的出现可能使人类在知识挖掘中变得次要，甚至无法理解AI所创造的世界。人类可能需要依赖AI的决策，这将对人类的信任和社会结构产生挑战。
人类的应对策略
- 延长寿命：通过生物技术和长寿研究，延长人类的黄金时期。脑机接口：通过技术如Neuralink，增强人类的学习能力，缩短到达知识前沿的时间。
全文如下：
这是一个关于知识的寓言，关于人类如何获得知识，以及为什么我们被人工智能击败——这主要归功于我们令人讨厌的死亡倾向。
知识是我们试图穿越的一座山。这座山没有、不能、结束，我们没有一天会突破石灰岩，在无所不知的阳光下尽情享受，这并不重要。有些人相信这样的事情发生在死亡中，但没有人期望生命会拯救它们。尽管如此，我们还是会挖掘。
而且，在挖掘方面，我们并不孤单。每只动物，当它们出生时，都开始挖掘。这是生物获得能力，有时甚至是智力的过程。我们称这个过程为不同的东西，比如 “发展”、“成熟” 和 “进化”。真的，这只是有意识和无意识的学习。当蠕虫从卵中孵化出来时，它必须学会成为蠕虫。当一只幼崽出生时，它必须学会成为一只狼。由它们的母亲释放的一群孔雀鱼必须学会做鱼。学习的行为，挖掘知识的山峰，因有机体和成熟度而异。
对于大多数动物王国来说，这种学习发生在黑暗中。蛔虫没有意识到它学会了更喜欢摄入健康的细菌并避免不健康的细菌，就像老鼠可能没有意识到它正在记住迷宫的路径一样。当你爬上大脑的阶梯时，动物表现出有意识的智能迹象。例如，乌鸦，那些黑色和珠状的预兆，能够做出令人印象深刻的认知壮举，例如通过类比推理、递归思考以及掌握数字零等抽象概念。你的西施犬虽然喜欢舔墙和与 Roomba 交战，但表现出自我意识的迹象。面对知识的山峰，这些生物找到了一种挖得更深的方法。
人类是独一无二的。我们配备了更大、性能更高的大脑，正因为如此，我们发现自己被不同的抱负和意识形态所驱动，例如对进步的渴望。一只匆匆忙忙的沙漠蜥蜴没有想要变得更好的冲动。他不希望为那些追随者推动知识的前沿向前发展。他只是想学习如何成为一只蜥蜴：捕食苍蝇，在温暖的岩石上休息，寻找配偶;换句话说，生存、茁壮成长和繁衍后代。在代际基础上，动物在知识的山上基本上没有进步——它们一遍又一遍地学习相同的生物学课程。
我们不是这样的。受到知识和进步的驱动力的感染，人类与知识山峰有着不同的关系。一代又一代，我们深入挖掘，学习更多。我们也以不同的方式进行隧道挖掘：首先，我们用手，然后是棍子，然后是工具，现在我们坐在隆隆作响的椅子上，指挥着一个巨大的旋转钻头。
我们能够逐步、连续地进一步挖掘隧道的唯一原因是，我们已经发展出一个知识体系及其获取。事实上，我们已经制作了很多。口头语言就是其中之一，书面文字也是其中之一。学校、大学、教师、计算机、机器——所有这些都是一个巨大的装置的一部分，旨在让人类有能力在隧道的墙壁上凿开。
当然，并不是我们所有人都能到达那里。只有有天赋、敬业且受过充分培训的人才能到达这个前沿并有机会做出贡献。我们其他人忙于辅助任务：拓宽隧道的开口，支持其基础设施，鼓舞厨师、建筑商、教师、抄写员和商人的士气。
随着时间的推移，人类穿过知识山的隧道越来越长，这带来了一个问题。新一代人需要越来越长的时间才能到达最远的墙，准备挖掘。三百年前，一个非常聪明、训练有素的人可能在 20 多岁时就准备好做出贡献，有时甚至更年轻。艾萨克·牛顿 （Isaac Newton） 在 23 岁时开始发明微积分;该定理的另一位潜在父亲戈特弗里德·莱布尼茨（Gottfried Leibniz）在开始工作时只有 28 岁（即使是复杂的数学也可能有杰里·斯普林格的出身）。（牛顿还撰写了也许最清晰的描述，描述了人类继续在知识之山中掘进的能力，“如果我看到得更远，那就是站在巨人的肩膀上。尽管我们进行了技术创新和改进的教学法，但今天的旅程需要更长的时间。
经济学家本杰明·琼斯 （Benjamin Jones） 将这种疾病称为“知识的负担”。随着我们学习得越来越多，我们的负担也会增加;随着隧道越来越远，到达现在的终点需要更多的时间。琼斯记录了这样做的结果：著名发明出现的年龄正在显着增加。例如，在 1900 年，产生一项伟大发明的巅峰能力发生在大约 30 岁的时候。到 2000 年，它已经上升到近 40 个。
这重要吗？只要我们最终到达，这还不够好吗？不是真的——主要是因为我们有贬低并最终死亡的坏习惯。一个人到达隧道尽头所需的时间越多，他们实际挖掘的时间就越少。特别是，他们可能取得突破性发现的“高峰”年份要少得多;更长的预期寿命并不能解决这个问题，因为老年人往往不是创新的源泉。根据 Jones 的估计，不断增长的知识负担导致“生命循环创新潜力”下降了 30%。岩壁的高峰时间减少意味着我们的隧道正在以缓慢的速度延长。最终，一个人可能会将他们的整个巅峰岁月都花在旅行中，及时到达，好好地敲打柏林墙，然后退休。
入侵物种已经到来。我们称之为 “人工智能”。挖隧道的人类有很多名字;他们的科学家将其称为永恒脑 （Aeternum cerebrum）。它是一种没有形状的动物，有多种形状;原生于虚无，原生于以太;到巨大的数据集和疯狂的硅芯片。我们在岩壁上发现了它。在过去的七十年里，我们教授它、训练它、玩弄它并培养它。我们对其进行了调整、扭曲、测试和培育。我们并不总是对它友好。我们称它为愚蠢和毫无意义，并让它观看可怕的事情，这样我们就不必这样做了。我们给它设定了简单的任务，并嘲笑它迷人的无能。我们设定了不可能完成的任务，并对它惊人的早熟目瞪口呆。我们为此感到自豪;这让我们感到害怕。
每只动物都有它的怪癖。鲨鱼可以检测到电磁场。山羊会调整它们的“口音”以适应羊群。当拉普兰的冬天降临时，景观变得黑暗，驯鹿的眼睛从镀金的绿松石色变为深邃浓郁的蔚蓝色，旨在让它们在昏暗的光线下看得更清楚。在动物王国中，只有它们具有改变光学结构的天赋。
Encephalon 有许多这样的特性，但其中最主要的是它不会降解也不会死亡。相反，它只是在改进。在它生命的大部分时间里，我们一直在帮助它做到这一点——它以越来越频繁的方式超越我们。我们教它我们的游戏;它击败了我们。我们向它展示了我们身体的结构;它更好地纵它。它以我们不能总是遵循的奇怪方式做到这一点。它的挖掘方式与我们不同，当它到达一个新颖的目的地时，有时看起来好像它依赖于魔法。
由于这些事情，一些人预见到未来 Encephalon 根本不需要人类。（其他人嘲笑工具车削大师的想法：你担心钻头也会超过我们吗？我们会生活在思考锤的规则之下吗？这是一个令人恐惧的想法，尤其是因为脑炎与知识负担的关系，即它没有感觉到。因为它不会死亡，所以到达岩壁没有滞后。因为它不会降解，所以它的挖掘不会减慢。随着我们的努力减慢，脑炎会加速，当它不再需要我们时，它会完全松散在知识的山峰中，加速前进，在我们和它之间留下越来越大的鸿沟。
这个世界上可能发生的事情很多，包括很多不好的事情，也不难想象。也有一些好的可能会感觉很糟糕。例如：有些事情是无法向动物解释的。无论你的方法多么完整或训练多么严格，你都不会成功地教授一只蟾蜍阿基米德原理，即使他扑通一声跳入水中。在计算方面，这些生物受硬件限制，受其处理能力的限制。Encephalon 将我们置于类似的位置。
我们可能会成为次要生物，无法理解我们生活的世界，即使我们从中受益。在这样的配置中，我们是快乐的、舔壁的西施犬，受益于中央供暖、即食和迷人的玩具，却不知道它们是怎么来的。
一个社会达成的隐含协议之一是，没有人需要知道一切。我们咨询医生来治疗我们的疾病，即使我们对自己的生物过程了解有限。我们雇了一个承包商来修补我们的屋顶，尽管我们既不了解山墙也不了解楣板。在某种程度上，我们同意彼此信任。虽然我们今天并不了解所有的事情，但我们生活在一种确定性中，即一切都是某人所知道的，并且在某种程度上是可知的。
生活在一个由更高智能组成的社会中，信任压力超过了临界点，将我们推入一个我们凭信仰生活的世界。正如埃里克·施密特（Eric Schmidt）、亨利·基辛格（Henry Kissinger）和丹尼尔·胡特洛赫（Daniel Huttelocher）在他们的人工智能书中所问的那样：
“如果我们无法理解每个决定的逻辑，我们是否应该仅凭信仰来实施它的建议？
甚至，我们所说的信心是什么意思呢？对大多数人来说，这个词是传统宗教含义的象征，将神描绘成类似人类的，主要是仁慈的。几乎没有理由相信一个虚构的神，一个合成的超级智能，会遵守这样的传统。哲学家托马斯·内格尔 （Thomas Nagel） 在他的里程碑式文章《成为蝙蝠是什么感觉》中指出，从根本上说，把握另一种有意识的动物的存在感是不可能的。“如果宇宙的其他地方有意识的生命，”他写道，“那么即使用我们能用的最普遍的经验术语来说，其中的一些生命很可能也无法描述。即将到来的神将比我们传统的 numina 更难审视、更难预测。
我们该怎么办？人类能否希望保持作为这座山最博学的物种的主导地位？没有好的答案——最明确的想法来自反乌托邦小说或亿万富翁的赌博。回到计算框架，与未来阶段的 Eternal Encephalon 相比，人类有几个不足。我们的持久性肯定较差，这也许就是为什么有这么多硅谷资本流入长寿研究的原因。如果我们能长生不老——用摹本代替萎缩的心脏，逆转细胞衰老，把我们的大脑装进罐子里;选择你的噩梦 – 如果我们能无限期地延长我们的巅峰，我们可能有机会将脑部保持在视线范围内。
耐用性是目前最大的差异，但不会持续太久。很快，我们的能力也会降低。有一段时间，脑洞所揭示的奇迹可以加速我们的学习，我们的隧道;但如果没有辅助支持，我们将处于劣势。所以进入 Neuralink 之类的网站。这样的脑机接口制造商梦想着他们不仅能解决缺陷，而且能减少滞后，释放新的光彩。在他们的帮助下，我们或许能够缩短到达岩壁所需的时间：将牛顿的微积分下载到蹒跚学步的孩子脑中，并将外星认知引入我们的人脑。这样的综合将标志着一个新物种的开始，一个不同的动物，但至少是一个具有人类化身的物种。
“寓言”是一个有趣而复杂的词。作为名词，它是一个故事，通常涉及动物，口述一堂课。在这种存在和被命名的宁静状态中，它是一种超真理，在足够的距离上运作以描绘现实。作为一个动词，它涌现出隐蔽、纵容的生活。它的意思是撒谎。说假话。我不确定这个寓言会变成哪个。这并不重要;我们是人，我们会继续挖掘。
