大型语言模型（LLM）在处理上下文时把所有 token 视为同质的，这导致指令与数据之间缺乏显式分离，进而出现提示注入漏洞、指令绑定模糊以及执行控制不可靠等问题。为了解决这些缺陷，我们提出了一种后训练方法——LLMON（LLM Object Notation），它通过显式的标识符让指令与数据分离，并要求基于标识符进行执行。我们构建了一个规模为 46 亿 token 的结构化训练语料库，覆盖通用、检索增强生成（RAG）以及工具调用三大场景，并在其中加入了干扰变体：即在上下文中混入竞争指令和无关数据，但这些片段不会被引用。随后，我们对两款 Granite‑4.1 基础模型（3 B 与 8 B）进行监督微调，再使用强化学习进行后训练。实验表明，LLMON 结构化监督将间接提示注入基准的攻击成功率从 53%‑100% 降至 0.02%‑5.6%，且未削弱模型的通用能力。我们进一步提出基于注意力的可解释性度量，用于在单层 Transformer 中诊断结构化输入的失效模式，结果显示该方法显著改变了内部注意力分布。整体而言，显式执行语义可以通过标准后训练方式学习，而无需改动模型架构。
点评：LLMON 展示了在不改模型结构的前提下，通过后训练实现指令‑数据分离的可行性，为提升 LLM 的安全性和可解释性提供了新思路。