在IT运维中部署的AI智能体通常是永久的成本中心,因为每次执行都需要完整的LLM推理,即使是针对之前解决过的问题。本文提出了渐进式结晶化,这是一种将智能体探索视为发现机制而非永久执行模型的生命周期方法。它定义了一个三阶段的执行分类法,从完全由智能体协调到混合,再到完全确定性的工作流程,并提出了一种基于证据的提升机制,将反复验证的智能体行为转化为更便宜且更可重复的确定性工作流程,同时自动降级回归的工作流程。该方法在一个每月处理数万事件的生产云网络AIOps系统中进行了评估,结果显示,在八个月内,确定性执行比例从0%提升至45%,每个事件的智能体成本降低超过70%,尽管事件数量翻倍,同时通过更高的可重复性和审计性提高了安全性。本文还介绍了执行分类法、提升和降级标准、追踪提取方法、经济模型、安全考虑,并讨论了局限性和有效性威胁。
博主点评: 本文通过渐进式结晶化方法,显著降低了AI智能体的运维成本,提升了工作流程的确定性和可审计性,为IT运维领域提供了新的思路,尤其在处理高事件量的场景下,表现尤为突出。整体上,该方法展示了如何有效地将智能体的探索行为转化为高效的生产工作流程,值得关注。