生成边缘案例对自主系统的训练、测试和安全保证至关重要。它帮助发现潜在失效,提高可靠性,并确保系统在运行设计域边界仍能安全工作。近年来,大语言模型(LM)的生成与分析能力快速提升,已有研究尝试用 LM 生成场景,但多数仍依赖人工或规则,限制了对长尾分布的覆盖。我们提出在笔记本电脑上运行的本地 LM 构建的 agentic AI 框架,实现自适应场景生成,成本低、可控且保障数据隐私。框架采用 think-act-observe-update-continue 循环,并用轻量 JSON 编码交互。系统需求、描述和环境信息作为知识库嵌入提示,保证场景的真实性。第二个独立 LM 根据领域标准对每个场景进行批评并提供改进建议。改进后的场景进入仿真,收集评估指标。随后对指标得分进行分析,利用相似度聚类生成针对性边缘案例(利用)或全新场景(探索)。基于指标的后置聚类和对 LM 生成的富文本描述的主题分析,能够定位功能缺口及触发条件,为安全保证提供可追溯证据。实验表明,该本地 agentic AI 框架能够自动化边缘案例生成并产出可追溯的安全保证材料。
点评