现有的RAG(检索增强生成)研究主要集中在防止未经授权的用户访问敏感数据。但是,另一个重要的问题是外部生成器可以访问查询和检索到的文档,这些文档可能包含可能被滥用或用于非预期目的的机密信息。 本文介绍了敏感实体别名生成器(SEAG),一个保护隐私的框架,允许用户在不泄露敏感信息的情况下使用强大的第三方生成器。SEAG引入了一个轻量级模型,用于定位敏感实体,生成相应的别名,并构建实体替换表。该表用于在查询和检索到的文档中替换敏感词汇,然后将其转发给外部生成器。 实验结果表明SEAG框架的成功。对于用户指标,衡量模型在隐藏敏感信息的同时为用户提供正确响应的能力,所有SEAG模型均达到80%以上的准确率。 博主点评: 本文提出了一种有效的保护隐私的RAG框架,通过隐藏敏感信息来防止外部LLM的滥用。实验结果表明该框架的成功,为保护用户隐私提供了新的思路和方法。