LLM代理的安全双重性：关于自我安全与强化网络安全的全面调研

《ARTIFICIAL INTELLIGENCE REVIEW》：LLM agents security duality: a comprehensive survey of self-security and empowered cybersecurity

　　

摘要

大型语言模型（LLM）代理正在迅速被集成到现实世界的系统中。它们的自主性和工具使用能力创造了巨大的价值，但同时也增加了安全攻击面。本调查全面概述了LLM代理在安全领域中的机遇和挑战，重点关注两个核心领域：（1）对LLM代理本身的威胁及其相应的缓解策略（LLM代理自我安全），以及（2）LLM代理在攻击和防御整个网络安全生命周期中的作用（LLM代理赋能网络安全）。首先，我们研究了代理的内部和外部攻击面，提出了一种按威胁来源分类的taxonomy，并分析了相关的缓解措施和评估框架。然后，我们探讨了代理能力在网络安全实践中的应用，并据我们所知，首次提出了一个与完整的网络攻击-防御生命周期相一致的代理赋能框架。通过对这两个领域进行系统的调查，我们首次强调了LLM代理自我安全与赋能网络安全之间的正面反馈协同作用，为两者的发展提供了新的见解。我们还指出了当前的限制，并为未来的研究指明了有希望的方向。所提供的见解旨在促进LLM代理自我安全和代理赋能网络安全的协调发展，为开发更强大、更可靠的代理应用铺平道路。