NeFut Logo NeFut
EN 管理员登录

[AI学术] 面向边缘的轻量语言模型用于智能数据模型分类的成本感知混合方法

发布于:2026-10-07 22:00 最后更新:2026-10-08 01:25
#AI #Machine Learning #LLM

物联网在智慧城市、能源管理、环境监测等领域产生大量异构数据,迫切需要高效可扩展的数据标准化方法。智能数据模型(SDM)的准确分类是实现互操作性的关键,但现有方案往往计算开销大,难以在计算资源受限的边缘节点上运行。

本文评估了多种轻量开源语言模型在资源受限环境下,将输入数据实体映射到最匹配的 SDM 表示的能力。实验覆盖通用模型(GP)、推理专用模型(RS)和代码专用模型(CS),在多个领域数据集上进行系统基准测试。结果显示,部分小型模型在保持可接受精度的同时,显著降低了内存和推理时延,满足边缘部署需求。

为填补文献中缺乏轻量、低成本方案的空白,研究进一步将这些模型与两种近零成本的相似度基线——TF‑IDF 和轻量句子编码器——进行对比。基线在极低资源下仍能提供基准性能,帮助量化 LLM 在边缘平台上的实际价值。

综合实验表明,模型选择应结合任务特征、资源预算和期望精度;任务可表述为实体‑模型匹配而非生成式问答;部署策略可采用模型蒸馏或量化以进一步压缩体积。

点评:该工作提供了系统化的评估框架和实用的选型指南,为在边缘设备上使用小语言模型进行智能数据模型分类奠定了基础。

原文链接: https://arxiv.org/abs/2610.07093

[h] 返回首页