我们考察序列内容充足性,即表示是否保留了输入中有序的目标信息。通过信息论分解,将总信息损失拆分为输入歧义、表示损失和读取失配三部分。形式化为 $$I(T;Y)=I_{\text{amb}}+I_{\text{rep}}+I_{\text{read}}$$,其中 $T$ 为潜在表示,$Y$ 为目标序列。
我们构造了可恢复视图,展示在完美一致性和联合各向同性高斯分布共存的情况下,目标信息仍可为零,并给出确定性规范锚点所施加的上界。基于 token 的对数损失提供了单侧信息损失界限;固定惩罚的岭回归分析说明仅凭秩无法决定预测风险。
基于这些发现,提出 CANOPE 框架:非自回归结构,使用有序潜在画布、规范 token 监督以及几何正则化。实验在 40,000 条验证序列上比较 PL0(潜在一致)和 PL2(基于 token),两者的整体秩几乎相同,但在强自然噪声且提供正确目标长度的条件下,位置 Recall@1 分别为 13.5% 和 98.8%。在 3,930 条 LJSpeech 验证语音上,冻结的 PL2 搭配训练好的 MatchaTTS 读取器在受损文本上的词错误率 (WER) 为 21.54%,而冻结的 PL0 为 99.22%;端到端的 MatchaTTS 达到 10.93%。
这些结果表明,仅凭几何规则并不能保证序列内容的可恢复性,也不足以在所研究的文本任务中提供有效的下游访问。