摘要
当大型语言模型（LLM）代理之间传递信息时，消息格式是否重要？两种文献存在分歧：格式优化研究表明，结构化消息可以降低成本而不影响准确性；而格式限制研究则发现，施加结构会降低生成质量——且两者均未测量消息在多跳传递时的效果，其中复制保真度而非一次性生成占主导地位。
我们引入了一个受控的中继测试平台：12个程序生成的原子事实的简报在六个跳数中以五种格式（自由自然语言、精确指令自然语言、JSON、三元组、键值对）逐跳重新编码，并通过固定的强评分者与程序生成的基准真值进行评分，跨越两个中继能力层级、一个认知负荷条件和一个配对分叉错误注入。
我们的研究发现，消息格式的效应是层级依赖的。
(i) 在忠实中继指令下，强中继几乎无损——文献中记录的“电话游戏”崩溃未发生——而增加每跳的认知负荷使格式级别的保真度保持不变（在+/-1.8分内），同时提高了生成成本24-53%。
(ii) 在弱（1.5B）中继下，六跳回忆的跨格式差异增大了8.7倍（从2.3到20.5分），由两种相反机制驱动——刚性格式所付出的编码成本和特定于固定键JSON模式的漂移抵抗——这在传递过程中翻转了格式排名。
(iii) 在配对分叉注入中，一旦注入错误值，该值在每种格式的最终跳中持续存在的比例为83-100%，与每种格式对真实值的保留情况密切匹配，并且没有检测到对相邻事实的附带损害。结构提供了一个忠实的、错误定位的通道——而不是错误校正码——格式选择应遵循管道中最弱的中继。
博主点评： 本文深入探讨了多跳信息传递中的格式影响，揭示了在不同中继层级下，信息保真度与生成成本之间的复杂关系。这为设计更高效的LLM代理系统提供了重要参考，强调了在信息传递时选择合适的格式的重要性。