NeFut Logo NeFut
EN 管理员登录

[AI学术] 全球安全盲点:低资源语言中的翻译作为安全绕过

发布于:2026-10-23 22:00 最后更新:2026-10-25 13:04
#AI #Machine Learning #LLM

大型语言模型在全球部署,但安全对齐和评估主要集中在英文。研究发现,英文中被拒绝的有害请求,若翻译成低资源语言,模型可能给出不安全的回答。我们在翻译绕过威胁模型下,对十种主流模型在79种语言(包括英文和78种低资源语言)进行评估,使用一种以英文安全为条件的指标,区分翻译绕过和英文本身已不安全的情况。

结果显示,英文安全并不能可靠转移:在安全的英文回答前提下,平均绕过率在21.9%到44.4%之间。绕过风险在部分语言家族中集中,这一模式在所有模型中大致相同。虽然这种排序与翻译退化有关,但不同模型之间的差异显著,并在所有控制实验中仍然存在。

进一步分析表明,单纯的模型绕过率并不能提供稳定的排名:在三种条件估计相同量的方案下,十个模型中有九个的排名会变化,而实际回复内容并未改变。

点评:翻译绕过揭示了安全评估的语言偏差,提示必须在多语言环境中同步构建安全防护,否则低资源语言用户将面临更高风险。

原文链接: https://arxiv.org/abs/2610.27304

[h] 返回首页