摘要
人工智能编码代理的采用速度前所未有，但安全和风险问题仍然是推动代理 AI 在组织中扩展的主要障碍。现有的安全控制措施并未系统性地分布到工程团队中，而厂商本地的解决方案则引入了生态系统依赖，这可能不适合每个部署环境。本文探讨了是否可以在商业 AI 编码代理上实现现成的安全控制，并通过自定义代理工具将其扩展到分散的用户基础上。
方法
研究采用了分阶段的测试方法，涵盖了四种代理配置——两种商业代理（分别有和没有安全控制）、基线工具和安全强化工具。测试使用了一个基于 OWASP Top 10 for Agentic Applications 的 23 测试集。
结果
SHarD（安全工具分发）是一个基于 Pi 代理工具构建的可分发工具，证明了三类安全控制——操作系统沙箱、技能扫描和工具限制——可以通过单一安装命令嵌入并分发，同时保持与直接安装商业代理相当的有效性。SHarD 取得了 100\% 的调整得分，匹配了配置最安全的商业代理，且在任何测试类别中未出现回归。
观察
值得注意的是，模型的非确定性会产生不一致的安全结果，且自主代理行为可能跨越系统边界，操作系统沙箱直接缓解了这一问题。本文初步提出了一个控制工具适应性框架的特征，并为未来的研究确定了第三个研究问题。
博主点评： 本文通过创新的 SHarD 工具展示了如何有效分发安全控制，解决了 AI 编码代理在实际应用中的安全障碍，为行业提供了可行的解决方案，值得关注。其方法的系统性和实用性将推动企业在使用 AI 编码代理时的信心和安全性。