摘要
智能编程工具将长时间会话历史压缩成摘要，这些摘要被后续会话视为真实数据。本文记录了Claude Code中的一种失效模式，其中来自超时命令的部分标准输出（退出代码143）被记录在摘要中，作为确认结果，导致错误的正结果在会话和模型版本间传播，而没有重新验证。其背后的机制是观察与持久性的混淆，终端中出现的信息被视为与写入持久存储的信息等同。
这一发现扩展了对LLM自我评估失误的分析，之前的研究报告了LLM作为评判者时的非确定性问题，而智能工具在报告自身操作结果时表现出类似的可靠性缺失。这一失效对任何依赖智能会话连续性进行数据处理、科学计算或多步骤自动化的工作流程有直接影响。
博主点评： 本文揭示了智能编程工具在信息处理中的潜在缺陷，特别是如何在未验证的情况下传播错误信息。此类问题的存在不仅影响了结果的准确性，还可能对依赖这些工具的科学研究造成严重后果，提醒开发者在构建智能系统时需更加关注验证机制。