大型语言模型（LLMs）和生成式AI（GenAI）系统，如ChatGPT、Claude、Gemini等，正在彻底改变网络安全，推动自动化防御和复杂攻击的双向发展。这些技术使得实时威胁检测、钓鱼防御、安全代码生成和漏洞利用达到了前所未有的规模。根据预测，到2025年，由LLM生成的恶意软件将占检测到的威胁的50%，而在2021年这一比例仅为2%。在2026年，面对高度自动化的威胁环境，亟需下一代安全框架。
本文对LLMs在网络安全中的有益与恶意应用进行了全面调查，涵盖了零日漏洞检测、DevSecOps、联邦学习、合成内容分析和可解释AI（XAI）。通过对70多篇学术论文、行业报告和技术文档的回顾，本文综合了来自Google Play Protect、Microsoft Defender、Amazon Web Services（AWS）、Apple App Store、OpenAI插件商店、Hugging Face Spaces和GitHub等平台的真实案例研究的见解，以及如SAFE框架和AI驱动的异常检测等新兴举措。
最后，我们提出了负责任和透明的LLM部署及可信AI的实际建议，包括模型水印、对抗性防御和跨行业合作，为在AI与威胁防御交汇处进行严谨、整体网络安全研究设定了新基准，并为安全、可扩展的LLM系统提供了一条重要的道路，这对研究人员、工程师和安全领导者在应对AI驱动的网络安全复杂挑战时具有重要参考价值。
博主点评： 本文深刻揭示了LLMs在网络安全领域的双重性，强调了在享受技术优势的同时，必须对其潜在威胁保持警惕。随着恶意软件的急剧增加，建立有效的防御机制显得尤为重要。