本文探讨了两个能够读取彼此源代码的智能体，如何在没有访问不可预测的随机数源的情况下，协调生成一个无法被操控或利用的随机位。作者认为这可能是不可能的，因为任何方案都可能被另一个智能体利用，从而导致结果可预测。

🤔 **问题背景:** 两个智能体可以读取彼此的源代码，但需要生成一个随机位来进行合作或决策。然而，它们无法访问外部随机数源，例如物理随机数生成器。

🤔 **方案分析:** 作者提出了一个简单的方案：两个智能体都选择源代码中的一部分，并根据这一部分生成随机位。然而，这种方案存在漏洞，因为一个智能体可以先查看另一个智能体的完整源代码，然后设计一个模拟智能体，它不会查看特定部分，而是生成所需的随机位。

🤔 **结论:** 作者认为，在没有外部随机数源的情况下，两个智能体无法生成一个无法被操控或利用的随机位。因为任何方案都可能被另一个智能体利用，导致结果可预测。

🤔 **扩展思考:** 这篇文章引发了对智能体之间的合作和信任的思考。在没有外部随机数源的情况下，如何确保智能体之间的合作公平公正？

🤔 **现实应用:** 这篇文章的讨论具有现实意义，例如在多智能体博弈、分布式系统和安全协议中，都需要解决随机数生成问题。如何确保随机数的不可预测性和安全性，是未来研究的重要方向。

Published on July 6, 2024 1:43 PM GMT

There are situations where two agents that can read each other’s source code want to have a bit of random information (e.g., they want to cooperate and split an indivisible thing by deciding randomly who’ll have it and having half of it in expectation).

If these agents don’t have access to unpredictable sources of randomness (e.g., it’s acausal trade through very detailed simulations and they can perfectly predict parts of each other’s environment), is there any way for them to coordinate on generating a random bit in a way that can’t be manipulated/exploited?

I feel like the answer should be “no”, as schemes like “both transparently don’t look at a part of the other’s source code when they coordinate on the scheme, then look and generate the bit from these parts” fail due to the possibility of something else looking at the whole of the agent A’s source code first and then designing a successor/a simulated agent B which won’t look there but will produce the needed bit.

But maybe I’m missing something?

Discuss