[!quote]+ 
模型不断改进，人工智能 Agent 在共享代码库、市场和其他社会系统中承担着越来越多的任务。因此，Agent 之间现实世界的互动日益频繁已成必然。我们已经开始研究这个问题，但对于这种大规模互动的具体表现形式仍存在诸多不确定性。发展轨迹清晰可见，且难以阻挡：现有的制度由人设计，也服务于人，其基础是人类速度下监管的充分性。一些机构将演变为人机混合系统；而另一些机构，如果 Agent 在速度或成本方面更具优势，则将完全由代理主导。在世界理解如何才能有效促进此类互动之前，代理之间的互动量很可能超过人与人以及人与代理之间的互动量。 
智能体在许多方面都与人类不同。它们可以长时间工作，瞬间掌握大量信息，并展现出超越任何人的知识广度。然而，它们也容易受到虚构和奖励操纵的影响，尽管在协调性方面取得了进展，但我们对它们在复杂的、真实的、多智能体环境中的行为知之甚少。此外，个体层面...