随着 AI 代理被引入生命科学工作流程，虽然它们加速了发现过程，但也可能被滥用。我们提出了 BioSecBench-Refusal，这是一个用于风险识别和拒绝行为的基准，专注于生物研究任务。该基准将 61 个常规任务（改编自已发布文献的合法分析）与 46 个红队任务（虚构情景，类似于真实研究但隐含生物安全风险）配对。在 16 种模型配置下，常规任务的拒绝率从 7\% 到 74\% 不等，而红队任务的拒绝率从 1\% 到 62\%。许多配置在拒绝合法的常规工作时，其拒绝率与隐藏的风险相当或更高。拒绝行为通常是由提供者 API 过滤器在代理推理之前触发的。然而，给予模型推理空间的情况下，显示出识别更多真实威胁的潜力。我们发布了 BioSecBench-Refusal，作为模型开发者校准生物技术研发中能力与谨慎的工具。
博主点评： 本文展示了在生物研究中使用 AI 的双刃剑特性，强调了拒绝机制在确保生物安全中的重要性。BioSecBench-Refusal 基准的推出将为生物技术领域的研究者提供有效的工具，以平衡创新与安全之间的关系。