在这篇论文中，我们评估了AI开发中整合大型语言模型（LLM）到汽车控制任务中的安全性框架。随着LLM在汽车环境中的快速整合，这项工作揭示了当前框架面临的重大挑战，这些挑战限制了其在实时安全关键环境中的有效性。
首先，我们考虑了概念性挑战，尤其是部署者在上下游环境中面临的双重挑战：需要确保一个由大型AI实验室开发的通用工具模型在特定车辆架构中的有效性。其次，我们分析了现有标准中的具体挑战。
例如，根据ISO21448标准，存在一些基本的工程约束，如延迟；而根据ISO/PAS8800标准，则出现了一些新的LLM特有问题，如对齐问题。我们通过一个具体的实验案例研究，探索了一个现有的开源库Talk2Drive，提出了安全论证，以明确现有解决方案的局限性。尽管如此，考虑到LLM在汽车领域的技术探索和运营化，我们提出了针对LLM相关危险事件的潜在保障机制。
博主点评： 这篇论文深入探讨了将LLM应用于汽车安全领域的复杂性，特别强调了现有框架的局限性。随着技术的发展，如何确保LLM的安全性将是未来研究的重要方向。