摘要
智能家居助手能够解释广泛的用户命令,从明确的设备控制到模糊且依赖于偏好的请求。虽然基于大型语言模型(LLMs)的系统在这方面有所改进,但它们通常依赖于复杂的推理流程和基于云的部署,这限制了其在资源受限环境中的效率,并引发隐私问题。此外,现有方法对长期个性化支持有限。
为了解决这些问题,我们提出了AdaHome,一个为智能家居环境设计的自适应智能助手,使用本地部署的小型语言模型。AdaHome并不统一应用复杂的推理,而是引入了一个意图感知的规划框架,动态地将命令路由到简单的基于提示的组件或轻量级推理组件。对于需要解释的命令,我们采用了Chain-of-Draft策略,以实现高效且稳定的决策制定。
为了支持个性化,我们进一步提出了一种偏好适应机制,能够从用户反馈中学习,而无需提示增强或模型重新训练。我们对AdaHome进行了评估,并与代表性的基于LLM的基准进行了比较,在统一的小模型设置下,AdaHome在直接命令上的准确率高达86.7%,同时将延迟降低了3倍。此外,在处理模棱两可的输入时,它仍保持竞争力的表现,且计算成本更低。在多轮场景中,AdaHome的偏好一致性达到88%,而提示增强基准仅为52.5%。
博主点评: AdaHome通过本地小型语言模型解决了智能家居助手在效率和隐私方面的痛点,提供了意图感知的动态命令处理机制,展现了在个性化和决策效率上的显著优势,值得关注。