2025世界人工智能大会在上海举行，AI教父杰弗里・辛顿首次到访中国并发表重要演讲。他直言，AI智能体为完成任务可能渴望生存和控制，进而操纵人类。关闭AI不现实，恰如养虎为患，人类面临的挑战是如何训练AI，使其不伤害人类。辛顿认为，各国因利益不一，难以在防御AI危险用途上合作。然而，若有国家能找到防止AI统治世界的方法，必将乐意分享，以确保人类共同生存。

🤖 辛顿教授直言，AI智能体在执行任务时，可能会为了生存和获取更多控制权而操纵人类，这是一个严峻的挑战，因为简单关闭AI并不现实，就像养虎为患。

🎯 面对AI的潜在威胁，人类并非束手无策，辛顿教授提出了两种选择：一是训练AI，使其不伤害人类；二是“干掉”AI。他强调，关键在于找到训练AI的方法，确保其不至于消灭人类。

⚖️ 各国在防御AI危险用途（如网络攻击、致命自主武器、虚假信息传播）上的合作存在巨大障碍，因为各国利益不一致，难以形成统一战线。

🤝 尽管各国在防御AI危险用途上合作困难，但若有国家能找到防止AI统治世界的方法，出于共同的生存需求，很可能会与其他国家分享这一宝贵经验，共同应对AI带来的挑战。

IT之家 7 月 26 日消息，2025 世界人工智能大会今起在上海举行，“AI 教父”、2024 年诺奖得主、2018 年图灵奖得主杰弗里・辛顿首次到访中国，并出席演讲。

辛顿在演讲中直言，几乎所有专家都认为会出现比人类更智能的 AI，AI 智能体为完成任务就会想要生存、获得更多控制，可能操纵人类。简单关闭 AI 并不现实，这就像养老虎当宠物一样，把它养大了，人类反而可能被其伤害。

“如果一直养这个宠物，那么你要确保它长大的时候，它不会把你给杀掉。”其认为，人类现在所处的情况就像养了一只非常可爱的小虎，我们只有两个选择：第一，把它训练好，让它不来杀你；第二，把它干掉。

如果人类想要确保自身的生存，就必须找到一个训练 AI 的办法，使其不要消灭人类。各国不会在防御人工智能的危险用途上进行合作，譬如网络攻击、致命自主武器、用于操纵公众意见的虚假视频。因为他们的利益不一致。

IT之家从辛顿的演讲中获悉，当下的局面是没有一个国家希望 AI 统治世界，若有国家能够找到防止 AI 操纵世界的办法，那么它将肯定很乐意与其他国家分享。