摘要
边缘智能已成为推动智能城市实时应用的关键范式，通过将计算从集中式云数据中心转移到网络边缘，从而降低延迟和带宽消耗。然而，在异构边缘基础设施上部署人工智能（AI）管道仍然面临挑战，因为设备能力差异从低功耗微控制器到配备加速器的系统都有。现有的边缘编排平台主要关注部署自动化和基础设施管理，但这些方法往往效率低下，限制了在动态条件下自适应分配资源的能力。
为了解决这些问题，本文介绍了CRAWO（自适应工作负载编排的定制资源），这是一个用于协调分布式边缘环境中AI管道的架构框架。CRAWO遵循基于控制环的模型，通过管理放置决策、状态管理和阶段间数据流来将分配智能与执行分离，同时在边缘节点上实例化服务。该框架结合了硬件感知的分配器和可插拔的多标准决策层，利用实时基础设施指标以实现自适应工作负载放置。
参考实现采用微服务架构，部署在轻量级Kubernetes发行版（K3s）上，使用自定义资源定义（CRDs）进行领域建模，并通过专用操作符进行状态协调。在车辆监控场景下使用车牌识别进行评估，结果表明在延迟敏感的环境中改善了工作负载分配，并减少了对集中式云处理的依赖。
博主点评： CRAWO框架通过将资源分配与执行分开，显著提高了边缘计算的灵活性和效率。其硬件感知的特性使得在多样化的设备上能够更好地适应动态负载变化，为未来智能城市的AI应用铺平了道路。