NeFut Logo NeFut
EN 管理员登录

[AI学术] AI 稳健性审计的可操作元需求

发布于:2026-10-15 22:00 最后更新:2026-10-18 08:05
#algorithm #AI #Machine Learning

AI 驱动的系统在运行环境变化(如输入扰动、分布漂移或外部依赖变化)时仍需保持可靠,这使得对系统进行稳健性审计成为评估其鲁棒性结论是否有足够证据的关键手段。构建稳健性审计框架面临的核心难题是缺乏统一的需求规范——即框架应当支持哪些要求尚未被系统梳理。为填补这一空白,本文提出 元需求 的概念:对一类审计框架应具备的高阶要求进行定义。

在设计科学研究的框架下,元需求的来源主要是文献调研和领域专家访谈。我们首先进行系统文献综述,从 2,890 条记录中筛选出 74 篇符合条件的文献,进而提炼出 43 条元需求,覆盖 16 个类别。随后邀请 128 位从业者对这些需求进行评估,累计收集 5,504 条评分和 586 条实质性评论。整体来看,81.20% 的评分表示同意或强烈同意,其中 41 条文献来源的元需求被评为强力支持。

基于实践者的反馈,我们对需求进行了细化,并新增了一条涉及外部组件和供应链依赖的需求。最终形成的完整集合包含 44 条元需求(其中 43 条已完成量化验证),同样分布在 16 个类别中。这套元需求可帮助组织在构建或改进 AI 稳健性审计框架时确保覆盖关键要素,也可用于评估现有框架的完整性并进行针对性优化。

点评

原文链接: https://arxiv.org/abs/2610.14356

[h] 返回首页