AI 辅导有望显著提升越南等发展中国家的学习效果,但现有两条路径都存在缺陷。云端助手(如 ChatGPT)会将学生敏感数据发送至境外服务器,违反《越南第 53 号法令》等数据主权法规;且其预训练语料以西方为中心,未围绕国家教材组织,导致对本地内容的知识碎片化、易出现幻觉。自行部署开源模型虽能本地化数据,但面临双重瓶颈:后训练量化(AWQ、GPTQ)虽压缩了静态权重体积,却无法解决长对话上下文的 KV 缓存占用和预填充延迟,导致消费级 GPU 常出现显存不足和响应慢的问题,同时模型仍在地区特定材料上产生幻觉。
DeepEdu-v1 是基于 SCALE(Self-improving Context-Aware Learning Engine)框架的越南教育 AI 辅导系统,提出两项创新。其一,长上下文推理引擎将 token 选择粒度从子块级提升到簇级,实现了对长上下文检索的 7.7 倍召回调用压缩,相比最先进的选择性注意力基线,预填充时延(TTFT)降低约 35%,且任务准确率持平或提升。其二,采用自我改进的主体层,通过持续从历史交互中构建经过验证的操作手册(playbook),取代传统微调,旨在随着可信本地知识的累积,逐步削弱对主流语言先验的依赖。
在实际部署中,DeepEdu 的 TTFT 相比标准 vLLM 服务提升近 2 倍,复杂任务的主体准确率从 70.0% 提升至 79.5%,在金融推理和交互式代理基准上取得最显著的单项提升。
点评