关注 AI 必读！Anthropic CEO 万字长文-预测强人工智能的积极未来。#ai#
描述了自己思考中的强人工智能的定义，详细介绍了强人工智能可能在五个核心方面对未来人类的积极作用。
叙述极为严谨在每个领域都有严密详细的推理过程，值得所有人关注 AI 的人看一下。
全文的翻译在这里：https://mp.weixin.qq.com/s/StZeb__lyrZl_as_sQ8l6A
下面是整理的要点：
- 大多数人都低估了 AI 可能带来的巨大积极影响,就像他们低估了潜在风险的严重性一样。
- Dario Amodei经常对许多 AI 风险领域的公众人物(更不用说 AI 公司领导人（说你呢 Sam）)谈论后通用人工智能 (AGI) 世界的方式感到不适。
- Dario Amodei认为强人工智能可能最早会在 2026 年出现,尽管也有可能需要更长的时间。
- 强人工智能在形式上可能类似于今天的大型语言模型 (LLM),但可能采用不同的架构,可能涉及多个相互作用的模型,并可能以不同的方式进行训练。强人工智能具体的特点有：
- 在纯粹的智力方面,它比大多数相关领域的顶尖专家更聪明。
- 除了作为一个"聪明的对话伙伴",它还具备虚拟工作环境中人类可用的所有"接口",包括文字、语音、视频、鼠标键盘控制和互联网访问。
- 它不只是被动回答问题,而是可以接受需要数小时、数天甚至数周才能完成的任务。
- 它没有物理实体(除了存在于计算机系统中),但可以通过计算机控制现有的物理工具、机器人或实验室设备。
- 用于训练这个模型的计算资源可以重新用于同时运行数百万个实例。这个模型可以以比人类快 10-100 倍的速度吸收信息和产生行动。
- 这数百万个副本中的每一个都可以独立执行不同的任务,或者在需要时像人类团队一样协作工作。
- 可能与强人工智能互补的因素和限制性因素：
- 外部世界的速度。智能体需要在现实世界中互动才能完成任务和学习。但现实世界的运转速度是有限的。
- 数据需求。有时候,原始数据的缺乏会成为瓶颈,在这种情况下,再高的智能也无济于事。
- 内在复杂性。有些系统本质上是不可预测或混沌的,即使是最强大的 AI 也无法比现有的人类或计算机做出更好的预测或解析。
- 人为限制。很多事情不能在不违法、不伤害他人或不破坏社会秩序的前提下完成。一个经过良好调校的 AI 不会想要做这些事。
- 物理定律。这是对第一点的进一步强调。有些物理定律似乎是不可违背的。
- 强人工智能允许我们将人类生物学家在未来 50-100 年内可能实现的进展压缩到 5-10 年内。下面这些问题都将被一定程度解决。
- 几乎所有自然传染病的可靠预防和治疗。
- 消除大多数癌症。过去几十年，癌症死亡率每年下降约 2%；因此，按照目前人类科学的速度，我们有望在 21 世纪消除大多数癌症。
- 非常有效的预防和有效治疗遗传疾病。大大改进的胚胎筛查可能使预防大多数遗传疾病成为可能。
- 预防阿尔茨海默病。
- 改善大多数其他疾病的治疗。这是一个包括糖尿病、肥胖、心脏病、自身免疫疾病等其他疾病的统称类别。
- 生物自由。我怀疑 AI 加速的生物学将大大扩展可能性：体重、外貌、生殖和其他生物过程将完全在人们的控制之下。
- 人类寿命翻倍 。在 20 世纪，预期寿命几乎增加了 2 倍（从约 40 岁到约 75 岁），所以"压缩的 21 世纪"再次将其翻倍到 150 岁是"符合趋势的"。
- 预防大多数精神疾病，可能会在5-10年的 AI 加速年内合理完成。具体的预测是：
- 大多数精神疾病可能可以被治愈。
- 非常"结构性"的条件可能更难,但并非不可能。也许有某种方法可以诱导成年大脑进入更早或更具可塑性的状态,在那里它可以被重塑。
- 有效地通过基因预防精神疾病似乎是可能的。
- 我们不认为是临床疾病的日常问题也将得到解决。我们大多数人都有日常心理问题,通常不被认为达到临床疾病的水平。
- 人类基线体验可以更好。可能也可以全面提高各种认知功能。这也许是"生物自由"或"延长寿命"的神经科学版本。
- 强人工智能开发后 5-10 年内发展中国家可能发生的情况的一些猜测：
- 健康干预措施的普及。我最乐观的领域可能是在全球范围内普及健康干预措施。
- 经济增长。发展中国家每年 20% 的 GDP 增长率,其中 10% 来自 AI 支持的经济决策,10% 来自 AI 加速技术的自然传播,包括但不限于健康领域。
- 粮食安全。以及使农业供应链更加高效 - 可能会给我们带来 AI 驱动的第二次[绿色革命](网页链接帮助缩小发展中国家和发达国家之间的差距。
- 减缓气候变化。AI 增强的研究将为我们提供使减缓气候变化的成本和破坏性大大降低的手段,使许多反对意见变得毫无意义。
- 国家内部的不平等。预计公民会要求获得如此大幅改善生活质量的技术。当然,这种要求的成功并不是预定的 - 这里是我们集体必须尽一切努力确保公平社会的另一个地方。
- 选择退出问题。这是一个难以解决的问题,因为我不认为在道德上强迫人们是正确的,但我们至少可以尝试增加人们的科学理解 - 也许 AI 本身可以帮助我们做到这一点。
- 和平和治理层面：
- 民主政府可以利用他们优越的 AI 技术赢得信息战。他们可以有效地反制威权政体的影响和宣传行动。
- AI 是第一个能够以可重复和系统的方式对复杂、模糊的情况做出判断的技术。可以通过提高决策和流程的公正性来改善我们的法律和司法系统。
- AI 可以用来汇总不同意见，推动公民之间达成共识，解决冲突，寻找共同点，促进妥协。
- AI 还有一个明显的应用领域，那就是帮助提供政府服务。
- 21世纪，在 AI 的支持下，我们有机会创造一种新型的政治体制。
- 当 AI (人工智能) 包揽一切时,人类如何找到人生的意义呢？他认为这个问题比其他问题更加棘手：
- 在一个足够先进的 AI 驱动经济中,大多数或所有人类可能无法做出有意义贡献的潜在问题。
将继续保持人类的相关性并实际上提高他们的生产力,甚至可能在某些方面使人类之间的竞争环境变得更加公平。
- 从长远来看,AI 将变得如此广泛有效和廉价,以至于这种情况将不再适用。到那时,我们当前的经济模式将不再有意义,需要进行更广泛的社会对话,讨论经济应该如何重新组织。
- 最终合理的可能是 AI 系统的资本主义经济,然后根据某种次级经济 (基于 AI 系统认为在人类中有意义奖励的判断,最终源于人类价值观) 向人类分配资源 (大量资源,因为总体经济蛋糕将会巨大)。
- 我们可能必须努力争取获得一个好的结果:剥削性或反乌托邦的方向显然也是可能的,必须加以阻止。
