NeFut Logo NeFut
EN 管理员登录

[AI学术] Transect:保持长时程 LLM 代理评估的可观测性

发布于:2026-10-08 22:00 最后更新:2026-10-12 00:49
#AI #Machine Learning #Open Source

Frontier AI 评估正向开放式、具代理性的长时程任务倾斜,这类任务的对话记录常常跨越数百页,涉及复杂的多代理网络输出与行为。可观测性——评估者能够可靠推断代理行为的范围——因此日益收窄。语言模型助手能够帮助分类和解释代理行为,但也为人工评估者提供了大量分析自由度,进而威胁到基于语言模型的记录分析的可复现性和审计性。

Transect 是基于 Inspect Scout 构建的开源工具包,旨在帮助评估者理清一次长时程代理运行的展开过程,快速定位值得进一步调查的行为,并将解释与原始记录对照检查。使用者在可复用的评估族配置中声明任务上下文和行为词汇表,判官模型和分析设置则在运行时单独提供。

Transect 生成的可导航报告将记录的事件、令牌使用、子代理活动以及模型生成的行为标签统一映射到基于回合的时间轴上。审阅者可以在几分钟内把握整个运行的叙事脉络,追溯任意标签或事件到其对应的回合,并导出底层数据表用于跨运行的对比分析。

我们在一次 AI 研发评估中演示了该工作流,整个过程产生近 1300 万令牌。通过行为阶段划分、研究技能分类、子代理委派与交互以及令牌消耗的对齐,展示了代理主要聚焦于运营工作和手稿产出,而缺乏持续的假设生成阶段——这在高质量科研输出中通常是必不可少的环节。

Transect 的灵活可定制的记录分析流水线,使评估者能够跟上更长、更复杂、更频繁的 AI 评估节奏,同时保障科学严谨性、透明度和可复现性。

点评

原文链接: https://arxiv.org/abs/2610.08364

[h] 返回首页