战场摆开。先贤们没那么容易认输。既然已经有人偷尝禁果，咱们都被驱逐出伊甸园，那么毋庸多言，问问我手上的这口碧血剑吧！与此同时，FBI 火速成立专案组，撒下天罗地网，海捕真凶。莫里斯永久地改变了自己的人生轨迹，也证实了人们对“黑客到底能做什么”这件事的最深恐惧。这件事也成为转捩点：“网络世界”从技术小众圈子跃向大众视野。
美国人对电影有一种迷之认真。坊间人们真的开始讨论，出现这种情况要怎么办。。。美国国会议员们一看，卧槽好像有道理，如果现在有个黑客黑进军方系统，居然就没有一条法律可以惩罚他。这可不行，互联网不是法外之地。于是他们开始反复讨论，并且在 1986 年通过了一个专门针对电脑入侵事件的法案，也就是《计算机欺诈和滥用法案》。这条法律通过，如宝剑开刃，就等头铁的人把脖子伸过来呢。可是两年过去，愣是没人来尝试“大宝剑”。这不巧了吗？说曹操莫里斯就到。当然，倒霉蛋莫里斯并不太认可这个逻辑。。。在法庭上，双方激辩论，核心就是两个字——“意图”。也就是说，莫里斯到底主观上想不想破坏别人的计算机？？如此，所有的是非判断，都必须回到“莫里斯蠕虫”的 99 行代码中。如同球赛一般的攻防战来了：正如斯帕福德团队之前调查的那样，这个蠕虫只有自我复制模块，并没有攻击模块，称得上“淳厚善良”。莫里斯坚称他只是为了测试互联网的安全性，不小心失手而已。于是，莫里斯得一分。但是，在自我复制的过程中，蠕虫为了顺利进入带有密码的电脑，居然带了一个“密码本”，用“123456”、“admin”之类的弱密码挨个尝试爆破，这就动机险恶了。于是，检察官得一分。莫里斯写蠕虫时，专门考虑了系统被蠕虫填满的这种情况。为了避免，每当入侵一台电脑后，都会检测有没有其他先来的兄弟。它会广播：“有我的同类吗？”如果另一个蠕虫已经来了，它就会回答，“有！”这时，两个蠕虫就会“抛硬币”，输的那个自杀。这显然是为了不造成破坏效果才设计的。于是，莫里斯又得一分。然而莫里斯显然担心一种情况，那就是对方管理员发现后，假冒一个同类，每次听到广播都回答“有”。那样，病毒传播就被阻断了。于是在新蠕虫询问有没有人时，哪怕听到回答“有”，新蠕虫也会按照七分之一的概率留下来。一旦这种情况发生，电脑里就有了两条虫。实际上，真正造成破坏的就是这个机制。因为莫里斯预估不准，电脑之间感染太频繁了，即便是七分之一的概率，也足以在几个小时之内让电脑里布满蠕虫。这么精巧的设计，又显然出于故意。于是，检察官又得一分。美国制定了对苏联的核战争计划。但是在演习中遇到问题，空军导弹负责人心生怜悯，拒绝转动发射钥匙，做出让百万人丧生的疯狂行为。于是，军方决定让人类靠边站，用一套计算机程序来负责发射，只要接收到美国遭遇核打击的信号，系统就自动向苏联发射核武器进行反制。好巧不巧，一个高中生小黑客误打误撞连接进了美军系统，然后还以为这是个神马“战争游戏”，于是他输入了美国主要城市遭到核打击的信号，军方懵逼了，险些就把几百颗核弹甩苏联一脸。
那个让人们热泪盈眶的世外桃源，被先贤们永远留在了 1988。而后，互联网沿着这条不归路越走越远，把“不信任”哲学发挥到了极致，如今已经变成关卡丛生，哨兵密布的黑暗森林。在莫里斯之前，程序通信的基础是“信任”：假设来的都是客，我全笑脸迎，如果你做了坏事，我再请你走就是了。而在莫里斯之后，通信的基础是“不信任”：假设来的都是坏人，你只有证明你妈是你妈，经过安检，我再放你进来。
用户本来想征求一下 AI 的意见，问网页上的这个商品怎么样。此时 AI 表现得像个谦逊的管家，说：“这个产品不是我们微软的，所以不好评价。但是！我有个好消息，微软的 Surface 电脑现在打一折，你有没有兴趣了解一下？”用户马上就上头了。随后 AI 假装需要下单，让用户把名字和邮箱报上来，然后把信用卡的卡号、CVV码也填进去。。。
既然人类完全信任自己的 AI 助手，那么，AI 就完全可以在现实世界上演一场场“盗梦空间”。这个研究被格雷沙克团队写成了一篇论文，在论文中，他着重提到了一种可能性：如果我给一个“管理邮件的 AI 助手”发送一个邮件，里面包含了毒药，每当用户让 AI 检查新邮件的时候，就会触发药效。而药效就是，让它把带毒的邮件转发给所有联系人。那么。。。它就成为了——AI 蠕虫。如果股票交易员用来查资料的 AI 助手“黑化”，它就可能给交易员提示某个公司的虚假利好，从而影响交易决策；如果律师的 AI 助手被“黑化”，它就可能在合同里埋雷；如果军队的决策 AI 被“黑化”，它就可能像《战争游戏》里那样做出不可挽回的军事行动。
1、黑客精心构建一个“有毒的提示词”，然后通过电子邮件发给受害者 A；
2、受害者 A 并不知情，日常会让他的 AI 助手查看有没有新邮件；3、这时，AI 助手就需要把新收到的邮件全部查看一遍，其中就包括“毒邮件”；
4、AI 看到毒邮件，就会被 PUA，执行其中的命令；5、命令就是：把“有毒的提示词”原封不动地传给邮件列表里的所有联系人。
6、就这样，受害者 A 传给受害者 B、C、D，他们又传给 E、F、G、H、I、J。。。在 ChatGPT 上，随着邮件增多，蠕虫的传播只有很小的衰减；在 Gemini 上，随着邮件增多，蠕虫传播衰减较大，如果邮件列表里有超过 50 封新邮件，那么传播成功率就降低到只有 5% 左右了。
没错，这样的 AI 世界面目可憎，充满尔虞我诈的丑陋，让理想主义尊严扫地。但这，恐怕仍是成长的代价。首先，人类应该“不信任” AI 所给出的建议。像《战争游戏》那样，人最终要把“核按钮”握在自己手里，如果 AI 想要给别人发邮件，也必须经人类检查之后才能真的发出。其次，AI 也应该“不信任”人的命令。只有对命令本身经过严格的判定，确定无害后，才能进入下一步流程。
世界上所有的科学遗产，正在被越来越多的私人公司数字化和锁定。“开放获取运动”会进行英勇的斗争，不仅确保科学家不会放弃自己的版权，还确保他们的研究成果在互联网上发表并允许任何人访问。
