NeFut Logo NeFut
EN 管理员登录

[AI学术] DeepEdu-v1:面向越南教育的高效可扩展自主大模型系统

发布于:2026-09-29 22:00 最后更新:2026-09-30 01:41
#AI #Machine Learning #LLM

AI 辅导有望显著提升越南等发展中国家的学习效果,但现有两条路径都存在缺陷。云端助手(如 ChatGPT)会将学生敏感数据发送至境外服务器,违反《越南第 53 号法令》等数据主权法规;且其预训练语料以西方为中心,未围绕国家教材组织,导致对本地内容的知识碎片化、易出现幻觉。自行部署开源模型虽能本地化数据,但面临双重瓶颈:后训练量化(AWQ、GPTQ)虽压缩了静态权重体积,却无法解决长对话上下文的 KV 缓存占用和预填充延迟,导致消费级 GPU 常出现显存不足和响应慢的问题,同时模型仍在地区特定材料上产生幻觉。

DeepEdu-v1 是基于 SCALE(Self-improving Context-Aware Learning Engine)框架的越南教育 AI 辅导系统,提出两项创新。其一,长上下文推理引擎将 token 选择粒度从子块级提升到簇级,实现了对长上下文检索的 7.7 倍召回调用压缩,相比最先进的选择性注意力基线,预填充时延(TTFT)降低约 35%,且任务准确率持平或提升。其二,采用自我改进的主体层,通过持续从历史交互中构建经过验证的操作手册(playbook),取代传统微调,旨在随着可信本地知识的累积,逐步削弱对主流语言先验的依赖。

在实际部署中,DeepEdu 的 TTFT 相比标准 vLLM 服务提升近 2 倍,复杂任务的主体准确率从 70.0% 提升至 79.5%,在金融推理和交互式代理基准上取得最显著的单项提升。

点评

原文链接: https://arxiv.org/abs/2609.31568

[h] 返回首页