SlowLab 是一个针对自主 AI 代理的慢速基准,模拟一年实验周期。平台包含四个温室舱位,作物种类、设施配置和市场价格全部隐藏。代理需要决定何时种植、选择哪种气候调控策略、是否提前收割以及在作物生长期间读取哪些传感器数据。季末,代理提交一套政策建议,由未见过的天气数据进行私有评估打分。
在预注册实验中,48 个未见站点被用于评估。三种低成本语言模型代理的表现接近传统种植者的基准,但明显低于从同一基准出发的贝叶斯优化方法。代理以两批同步运行,季内测量数据并未影响种植决策,且这些测量未提升任何方法的最终得分。即使允许其他方法重新读取已收集的证据,也未显著提升推荐质量,表明模型的起点和实验选择是主要瓶颈。
代码已在 MIT 许可证下开源。
点评:本基准揭示了当前语言模型在长期、不可逆实验中的局限,强调了对初始策略和实验设计的改进需求。