基于机器学习的入侵检测系统(IDS)在保护无人机(UAV)网络方面表现出色。然而,这些模型的 '黑盒' 性质,加上多模态网络物理数据的高维性,带来了巨大的解释挑战。静态可视化仪表盘可能难以以易于操作员检查和解释的形式呈现多模态网络物理特征之间的复杂关系。为此,我们提出了一种由大语言模型(LLM)驱动的会话式解释性人工智能(XAI)接口,以便于按需调查。在对参与者的受控实验中,我们系统地评估了会话式接口与传统XAI仪表盘对操作员理解、信任和依赖的影响。我们的结果表明,会话式接口被认为比仪表盘更有用,可能是因为它帮助参与者更容易地访问和整合相关信息。然而,这种好处伴随着适当的自主依赖性降低,表明可能存在过度依赖的风险。一个可能的解释是,自然语言响应使得AI建议更容易被接受,这可能降低了参与者在IDS不正确时验证底层证据的倾向。这些发现指出,人工智能与人类在无人机入侵审计中的合作可能存在权衡:提高感知可用性的交互机制也可能增加不当依赖的风险。我们通过讨论未来XAI系统的设计影响来得出结论,这些系统平衡了无缝交互和认知强制函数,以促进适当的依赖。 博主点评: 本文提出了一种会话式XAI接口,利用LLM来提高操作员对无人机入侵检测结果的理解和信任。实验结果表明,这种接口更容易被操作员接受,但也存在过度依赖的风险。因此,未来XAI系统的设计需要平衡交互的可用性和认知强制函数,以确保操作员的适当依赖性。