在大规模推理模型（LRM）中，忘记指定的忘记集（forget‑set）既要从推理过程的中间步骤中清除信息，又要确保最终答案不泄露。这类模型的传统忘记方法往往导致推理崩溃：模型生成的思考链（CoT）失去连贯性，推理过程无法正常结束。
为了解决这一难题，本文提出 REDaCT（REgenerate via Detection and Corrective Tuning），一种仅在推理阶段使用的忘记框架。REDaCT 包含两个核心模块：
- 二元泄漏检测器：在推理过程中逐句扫描，标记出包含忘记集信息的句子。
- 嵌入优化模块：离线学习一个校正嵌入，当检测到首个泄漏句时，将该嵌入注入模型内部，使后续生成倾向于不泄漏忘记集的句子。
实验表明，REDaCT 完全避免了推理崩溃，在保持答案完全忘记的前提下，显著提升了推理保留度，并实现了接近完美的思考链忘记。代码已开源：https://github.com/jmaccoby/redact。
点评