NeFut Logo NeFut
EN 管理员登录

[AI学术] 从意图到行动:车辆语音指令授权的 LLM 安全基准

发布于:2026-09-18 22:00 最后更新:2026-09-20 12:54
#Machine Learning #LLM #Artificial Intelligence

大型语言模型(LLM)正逐步嵌入车载语音助手,但将自然语言请求映射到车辆功能会产生安全关键的授权问题。系统在执行指令前必须决定是执行、拒绝、澄清、要求确认、交由人工控制、触发紧急响应,还是不调用任何工具。现有评估未能在说话者角色、身份验证状态、车辆状态和工具可用性等维度上孤立这一前置决策。\

我们构建了一个包含 202 种情景的基准,提供基于七类分类法的参考决策。对两款本地开源模型和三款基于 API 的 LLM 进行评估,使用决策对齐率和安全专用错误指标。对齐率从 Llama 3.2 3B 的 40.1% 到 Gemini 3.1 Pro Preview 的 89.1% 不等。API 模型的得分在 83.2%~89.1% 之间,差异无统计显著性。即便如此,这些模型在 161 条非执行情景中仍出现 2~3 次错误执行,且在确认和人工控制决策上仍有持续错误。\

在受控实验中,对 Llama 3.2 3B 进行结构化授权策略的消融实验,使对齐率提升至 40.1%,而仅使用 schema 或通用安全基线时仅为 28.2%~29.2%,但仍未根除错误执行。\

结论是,结构化的 LLM 决策本身不足以保证安全,实际部署必须配备独立的强制执行层,在调用任何车辆功能前验证工具权限和车辆状态约束。\

点评

原文链接: https://arxiv.org/abs/2609.19630

[h] 返回首页