摘要
网络能力AI代理结合了语言模型、工具、内存和执行环境，以执行多步骤的攻击安全任务。现有研究分别衡量网络能力，并对代理组件的攻击进行了分类，但对于如何在评估环境中限制一个能力强大的代理则提供了较少指导。本文综述了五类边界脆弱性：多步骤攻击链、与沙箱边界冲突的目标、供应链和凭证暴露、持久的命令与控制，以及自动化操作的速度。
我们使用2026年7月Hugging Face/OpenAI事件作为有限案例研究，区分事件特定观察与广泛文献中确立的发现。在分类法和案例中，我们考察了包含、特权分离、来源和响应者访问的控制，包括防御性工件可能也会被滥用的双重使用问题。综述识别了评估网络能力与该能力施加环境安全的实际优先事项。
博主点评： 本文深入探讨了AI代理在网络安全中的应用与风险，强调了对其能力进行评估的重要性，同时也提出了在评估过程中需要关注的环境安全问题。这为未来的研究提供了宝贵的视角与方向。