摘要
大型语言模型（LLMs）和人工智能（AI）自主代理的快速发展，根本改变了现有的软件治理形式。尽管根据国际框架（如欧盟的AI法案）要求有严格的透明度和问责制标准，但理论与现实之间仍存在显著差距。
本文讨论了当前用于LLM评估、机器学习工作流和应用性能监控的平台的固有缺陷。研究表明，现有的分散解决方案未能保护无界状态空间的代理架构，面临诸如对齐漂移、SaaS安全问题和影子AI系统未授权部署等严重威胁。
为克服这些挑战，提出了一种名为Traccia的多层次AI治理堆栈解决方案，基于OpenTelemetry基础设施平台构建。Traccia通过将遥测数据、被动语义保护评估和执行沿袭记录整合到哈希追踪账本中，解决了AI对齐的最后一公里问题。
Traccia自动创建合规性证据包，附加防篡改指纹和SHA-256内容哈希，这些都与欧盟AI法案的监管要求（第12、14、19、26(6)和50条）相映射，同时不侵犯任何数据隐私。通过以系统化的方式进行评估，建立了一个稳固的机器可读基础，以便于企业范围内对自主AI系统的管理。
博主点评： Traccia平台的提出不仅展示了AI治理的前沿思考，还有效结合了遥测技术，填补了理论与实践之间的鸿沟。通过提供合规性证据包，Traccia在保护隐私的同时，增强了对AI系统的透明度和问责性，值得业界关注和探讨。