本研究聚焦尼泊尔语使用者在日常对话中频繁插入英语词汇的现象,传统的多语言语音识别系统在语言切换和英文字母书写方式上表现不佳。我们选用 SraVaani——一个拥有 4.49 亿参数、基于 TDT‑CTC 的混合模型,对其进行适配。训练数据为 172.8 小时、覆盖六个尼泊尔语音域的语料库。\n\n模型的预训练分词器不支持数字和若干常用符号。为避免替换分词器或丢弃含有这些符号的录音,我们为数字生成尼泊尔文和英文两种读法,并利用零样本 ASR 输出挑选最合理的形式。\n\n完整微调后,测试集的词错误率(WER)从 48.6% 降至 17.1%。在 12 个 epoch 的训练后,WER 达到 16.3%,与微调后的 Whisper large‑v3‑turbo(16.4%)相当。冻结编码器会使 WER 上升至 25.5%;若在训练中剔除数字片段,则数字测试语音的 WER 从 14.3% 上升至 21.3%。\n\n我们进一步在 FLEURS 数据集上进行评估,分别使用其原始参考文本和混合脚本的替代文本。结果表明,转写约定解释了部分域外性能下降,但仍有其他因素影响。\n\n点评:本文通过细致的数据预处理和针对性微调,显著提升了混合语言环境下的识别准确率,展示了在资源受限语言中利用大模型的可行路径。