Computer‑use 代理正逐步在真实桌面环境中接受评估,但现有基准对专业工程工作流的覆盖仍然不足。机械计算机辅助设计(CAD)对代理提出了更高要求:需要在长交互时程内操作几何体和约束,并生成在尺寸、构造结构和后续工程状态上均保持有效的原生项目。
CADWorld 是基于 FreeCAD 的长时程计算机使用基准,包含 200 项任务,覆盖 11 类机械 CAD 工作流,包括草图绘制、零件建模、装配、CAM、有限元分析(FEM)、测量、网格处理和技术制图。代理通过截图和 GUI 操作与系统交互,任务成功与否由对保存的 FreeCAD 工件及辅助输出进行的可执行检查决定,检查内容涉及几何属性、参数化结构、约束、制造状态以及仿真结果。
在全基准上测试了七种现有代理,最强代理的成功率仅为 $17.5\%$,而专家参考的通过率为 $87.0\%$。弱代理往往在生成有效工件前就失败,强代理则更多在结构、几何和构造过程要求上出现错误。CADWorld 揭示了通用 GUI 能力与可靠执行持久、可验证工程工作流之间的显著差距。
项目地址:https://cad-world.github.io
点评