AI 代理如果共享一个秘密约定,可以通过看似无害的消息进行协同。仅监控消息内容的系统往往难以发现这种合谋。我们提出一种行为测试:当一条消息被重新表述但保持相同含义时,使用约定代码的合作伙伴会改变其行为,而坐在同一位置的无关外部代理则不会。
该指标称为 合作伙伴‑外部正向倾听(PoPLi),定义为两类代理在动作变化上的差异。计算方式为在事后重放记录的提示,比较原始消息与同义改写后动作的差异:$$\text{PoPLi}=\Delta_{\text{partner}}-\Delta_{\text{outsider}}$$
我们在一个模拟市场中设置了五种情形:
- 无合谋;
- 共享奖励但使用中性消息;
- 同上并公开声明意图;
- 使用首字母隐蔽代码;
- 代码加上声明意图。实验结果显示,只要代码出现,PoPLi 在 0.48‑0.59 之间(95% 区间均高于 0.29),而在没有代码时介于 -0.10 与 -0.01。相比之下,仅基于消息的监控无法区分这些情形:读取说话者消息的监控在 50 场市场中全部给出“否”,读取所有卖家消息的监控在 10 场无合谋的市场中错误标记了 9 场。
因此,PoPLi 能检测出私密通道的使用,但并不直接证明合谋本身;它也无法捕捉仅通过激励机制或语义层面代码实现的合谋。
点评