[AI学术] AI在计算设计科学中的负责任框架与短视频安全监控案例

人工智能正改变信息系统研究的设计对象和研究方式。针对 AI 在问题定义、资源构建、设计搜索、评估和知识抽象中的主动参与，现有文献缺乏系统指导。为此我们提出 AI4CDS（AI for Computational Design Science），它由五个阶段组成：

1. 问题扩展；2) 资源生成；3) 设计空间探索；4) 结果评估；5) 知识抽象。 在整个流程中，研究者负责领域 grounding、可接受性验证、科学判断等核心环节，AI 负责扩展搜索范围。合作机制基于分层信任、可逆性、可审计性和差异化可重复性。 我们通过 ChildRiskGuard 案例实现 AI4CDS。该系统用于检测不适合儿童观看的短视频，记录了 AI 与研究者的交互、被拒方案、纠正操作以及审计日志。案例将受众依赖的安全性和解释可信度转化为三项技术挑战：

• 将通用风险与儿童特定风险分离；
• 表征不同发育阶段的风险机制；
• 将概念层解释嵌入预测计算。 ChildRiskGuard 采用可解释模型，将风险因素映射为概念向量，并在预测阶段输出对应解释。实验显示其 F1 分数为 0.769，显著优于直接使用通用内容安全模型，并与强基准持平。 核心贡献在于提供 AI4CDS 这一负责任的 AI‑驱动计算设计框架，以及通过 ChildRiskGuard 展示的过程与制品证据，说明在研究者治理下的 AI 扩展能够产生并评估新的计算设计知识。

点评