以下是纯翻译带有其他玩家模拟的博弈论 (Game Theory with Simulation of Other Players)摘要 (Abstract)与 AI 智能体的博弈交互可能在很多方面不同于传统的人与人之间的交互。 其中一个区别是模拟一个 AI 智能体可能是可行的例如因为它的源代码是已知的这使得其他人能够准确预测该智能体的行为。 这可能会降低信任和合作的门槛。在本文中我们形式化了其中一个玩家可以花费一定成本模拟另一个玩家的博弈。 我们首先推导了此类博弈的一些基本性质然后证明了关于它们的一系列结果包括1将模拟引入具有通用收益generic-payoff的正规形式博弈normal-form games使其更容易求解 2如果合作的唯一障碍是缺乏对可能被模拟的智能体的信任那么模拟能够促成改善双方结果的均衡 并且然而3在某些设定下引入模拟会导致对两个玩家都严格更差的结果。1 引言 (Introduction)原则上博弈论对玩家的性质是不可知的除了个体人类他们还可以是家庭、公司、国家当然也可以是 AI 智能体。 尽管如此在该领域发展的大部分时间里博弈论学者心目中的玩家要么是人类要么是由人类做出决定的实体 并且与任何理论一样在发展该理论时心目中的例子很可能会影响其关注点。 如果我们尝试专门针对 AI 智能体重新发展博弈论该理论会有何不同 当然传统博弈论中的定理不会仅仅因为关注点的改变而突然变得虚假。 相反我们预期任何差异都将存在于我们为其开发模型、分析和计算工具的设定和现象的类型中。在本文中我们关注在 AI 智能体背景下更相关的一种特定现象智能体能够互相模拟。 如果一个智能体的源代码是可用的另一个智能体就可以模拟前者将要做什么直觉上这似乎会在战略上显著改变博弈。 我们考虑其中一个智能体可以模拟另一个智能体的设定如果他们这样做他们就会了解到另一个智能体在实际博弈中会做什么 然而模拟对模拟者来说是有成本的因此在均衡中是否以及何时会实际使用模拟并不立刻明朗。特别是我们有兴趣理解这种模拟的可用性是否以及何时会导致更具合作性的策略。 例如在合作行为需要信任的设定中 [Berg et al., 1995]人们可能会预期模拟另一个玩家的能力有助于建立这种信任。 但这在均衡中确实会发生吗如果会模拟的能力是否能在所有博弈中促进合作或者是否存在适得其反的博弈 我们甚至能够计算带有模拟能力的博弈的均衡吗在相关工作方面我们的设定类似于可信承诺credible commitment的设定 [von Stackelberg, 1934]区别在于玩家需要决定是否为允许另一个玩家进行承诺而支付成本。 另一个视角是我们研究的是程序均衡program equilibria [Tennenholtz, 2004]区别在于只有一个玩家的程序可以读取另一个玩家的源代码并且必须为此支付成本。 有关进一步的讨论和参考文献请参见第 7 节。在本引言的其余部分我们描述了一个信任博弈的具体例子并用它来概述稍后介绍的技术结果。 我们还给出了几个例子来说明当超越信任博弈时模拟如何导致不同的结果。 为了快速概览关键要点在第 1.1 节中以斜体突出显示。图2左上角图1中信任博弈的规范形表示在加入模拟前后。下方TGc sim 的极值均衡。非极值纳什均衡恰好是最后两列的凸组合。右上角各纳什均衡下的合作概率与收益。非极值纳什均衡以浅红色标出虚线表示命题11中的纳什均衡轨迹。注意所有红色的纳什均衡即满足 π1(WO) 1 的均衡均导致 u1 u2 0。图3左图承诺博弈其中行方玩家更倾向于无法进行模拟。详情请参见例22。右图具有多个模拟纳什均衡的信任博弈变体。