在自利代理的社会中,缺乏约束的情况下,代理在重复社会困境中倾向于背叛,导致交易的合作收益崩溃。本文探讨了在不受限制的沟通基础上,哪些正式机制能够帮助这样的代理社会维持市场稳定,以及这些机制对敌对攻击的韧性如何。
我们将研究问题实例化为一个多代理市场模拟,其中18个具有互补生产专业的 LLM 代理(DeepSeek-V3)必须在受限的社交网络中进行交易以获取效用。
我们进行了两个实验阶段:
-
在200轮的逐步 troll 注入下,对八种条件进行机制比较,识别出调解机制(Mediation)为表现最佳的机制;
-
使用迭代优化的 LLM 驱动的 troll 对调解机制进行敌对红队测试,发现最佳攻击(v6)将诚实代理的效用降低了13.3%,但无法导致市场崩溃。调解机制即使在持续的敌对压力下也能实现恢复。
我们将敌对韧性定义为机制在优化攻击下维持正面诚实代理效用的能力,并发现调解机制具有韧性:它可以被弯曲但不会被打破。