最近，随着大型语言模型（LLMs）的迅速发展，它们在各个领域得到了广泛应用，但同时也带来了显著的安全漏洞。为了评估模型的鲁棒性，需要进行红队评估，通过多样化的对抗性输入来找出安全风险并实施对策。目前，红队评估要么由专家手动进行，要么使用预定义的攻击数据集。然而，手动测试耗时，而现有的自动方法由于依赖固定的数据集而缺乏创造性。本研究提出了一种自动化、人工无关且自适应的方法，利用 GFlowNets 来识别 LLM 的漏洞，通过训练一个攻击模型来对另一个模型进行自动化红队评估，并提供量化的鲁棒性评分。该研究旨在生成比现有基准更有效的对抗性攻击，并作为文献的新贡献，提出了一种能够生成土耳其语攻击输入的模型。 博主点评： 本文提出了一种利用 GFlowNets 自动生成针对大型语言模型的攻击方法，这对于评估和改进 LLM 的安全性具有重要意义。通过自动化红队评估，可以更高效地发现安全漏洞并实施对策，从而提高 LLM 的鲁棒性和可靠性。