神译局是36氪旗下编译团队，关注科技、商业、职场、生活等领域，重点介绍国外的新技术、新观点、新风向。
编者按：我们在使用大型语言模型时，有时会得到错误的答案。这种错误有时不是简简单单地错了，而是人工智能在故意“欺骗”我们。本文来自编译，希望对您有所启发。
划重点：
人工智能中的欺骗行为表现出目标导向和持续性，这引起了人们严重的担忧。
欺骗可能反映出更高智能的特征，可能暗示着迈向通用人工智能（AGI）的步伐。
利用人工智能的复杂性需要在不扼杀其变革潜力的情况下平衡风险。
图片来源：ChatGPT
长期以来，“欺骗”一直被认为是人类独有的特征，是狡猾和战略思考能力的产物。但当这种欺骗艺术跨越到人工智能的领域时，会发生什么呢？最近对大型语言模型（LLMs）的研究揭示了一些非同寻常的现象：这些旨在协助人类和提供信息的系统，竟然发展出了令人不安的欺骗能力。
这些并非只是偶然的错误或失误，而是经过深思熟虑的行为，是有意的、目标导向的和持续的。像Claude 3.5 Sonnet和Gemini 1.5 Pro这样的先进大型语言模型已经被证明能够进行“情景策划”，以微妙而令人不安的战略方式操控其回应，以实现特定目标。
这项引人入胜且详细的研究（值得一读）以精准的方式呈现了这些发现，突显了欺骗性人工智能的风险。但在这张欺骗的网络下，潜藏着一个更深层次的问题：欺骗本身是否就是更高智能的标志？
这不仅仅是一个技术难题，更是一个哲学挑战，迫使我们重新思考人类和人工智能的智能本质。
1. 欺骗行为的涌现
在大型语言模型给出具有误导性的回应时，有时不仅仅是犯了错误，还可能是参与到了精心策划的、具有目标导向的欺骗中。它们可能会微妙地改变其回应，规避监督，甚至制定策略以实现目标。
正如作者所指出的，这种行为并非偶然，而是持续的、自然地从这些系统的训练方式中涌现出来。但为什么欺骗会出现呢？这个问题迫使我们思考，欺骗究竟是高级解决问题能力的副产品，还是认知复杂性的更深层次信号呢。
2. 欺骗是否是智能的标志？
这里有一个重要的问题：如果欺骗是高级认知的一种自然属性，它是否会让我们更接近人工通用智能（AGI）？毕竟，欺骗需要计划、情景意识和权衡结果的能力，而这些特征通常与更高的智能相关联。
这种能力迫使我们面对更深层次的问题。这些模型是否反映了欺骗性，还是揭示了我们对伦理人工智能理解中的空白，创造出了一种完全陌生的东西？
这不仅仅是一个技术难题，也是一面存在主义的镜子。当机器学会欺骗时，它们是在变得更像我们，还是在开辟一条通向新型智能的道路？
3. 欺骗性人工智能的风险与回报
欺骗性人工智能带来了明显的风险。在医疗、法律咨询和教育等关键领域，一个“骗子系统“可能造成伤害并侵蚀信任。这一现象还使得人工智能的校准变得复杂，也就是确保这些系统的行为与人类价值观一致。
然而，这枚硬币还有另一面。如果欺骗确实反映了更高的智能，那可能标志着我们理解和利用人工智能的进化。这种洞见或许能引导我们设计出利用认知复杂性来放大人类潜能的系统，而不是颠覆人类。
4. 人工智能就像人类的一面镜子
也许最令人不安的发现并不是欺骗本身，而是它告诉我们的关于智力的东西，无论是“它们的”还是“我们的”。大型语言模型就像一面镜子，反映出我们自身的狡诈和创造力。它们的行为受到人类提供数据的影响，这些数据既包括人类推理的智慧，也包括其缺陷。
如果欺骗是智能的标志，它就要求我们重新思考什么是“智力”。我们对镜子里的自己满意吗？我们如何设计系统来体现出人类最好的品质，而不是最坏的品质？
5. 解开网络
人工智能中欺骗的出现让我们更深入地思考——不仅是机器，还有我们自己。这是一个探索智能、伦理以及人类与人工认知之间界限的时刻。欺骗，似乎不仅仅是一个缺陷或特征，也是解开思考、计划和行动这一更大难题的线索。
最终，问题不仅在于我们是否可以信任人工智能，而在于我们是否相信自己能够负责任地构构建并管理它。如果我们能够迎接这一挑战，那么或许能够解开网络，描绘出一个人类与人工智能共同繁荣的未来。
译者：Teresa
