知识卡片：LLM 智能体用于软件与系统安全：方法、应用与评估

英文标题： LLM-Based Agents for Software and Systems Security: Approaches, Applications, and Assessment
英文关键词（整理）： LLM agents; software security; systems security; systematic literature review; agent assessment

一句话结论

这篇系统综述覆盖 2023–2026 年同行评审文献，发现当前 LLM 安全智能体已经“能行动”——能规划、用工具、在多步流程中保持状态并修订计划——但尚未达到“权限有界、行为可审计”。领域中“agent”一词使用不一致、应用场景风险差异大、评估协议常不可比。

事件概述或研究问题

软件与系统安全流程通常是程序性的：分析者检查异构工件、形成假设、调用工具、解读输出、修订计划。LLM 智能体具备规划、工具使用、状态保持和多步修订能力，正被快速用于自动化这类工作。由于把安全决策委托给自主系统后果严重，理解这类智能体如何构建、使用和评估至关重要。

该论文是对 2023–2026 年该领域兴起期同行评审文献的系统性综述，试图回答：LLM 安全智能体目前做到了什么、做得怎么样、还差多远。

方法/产品要点

本文是系统文献综述，而非新系统或新数据集。其整理框架包括三方面：

• 技术方法：智能体架构、感知、记忆、推理与规划、行动空间、编排、自我改进。
• 应用：按所服务的安全任务分类。
• 评估：数据集、结果与轨迹指标、安全措施、基线。

论文指出当前领域存在三个基础性问题：“agent”定义不一致；不同应用场景的风险差异很大；评估协议常常无法相互比较。

主要结果或产业意义

综述综合得出的核心判断是：该领域已经造出了能够行动的智能体，但还没有造出权限边界受限、行为可审计的智能体。

这意味着产业若要将 LLM 智能体用于安全决策，不能只看任务完成能力，还需关注权限控制、可审计性和风险评估。论文还从方法、应用和评估设计三方面总结了当前局限与挑战，并指出未来研究方向。

为什么重要

这是对 LLM 智能体在软件/系统安全领域的一次系统化梳理，而不是单一技术点。它为后续研究提供了一个共同框架：把“智能体能力”与“可委托性”分开考察，避免只用端到端结果评价安全智能体。

与既有脉络的关系

已有卡片中，MemLens 和 HiGram 分别关注 LLM 智能体的长期记忆管理与分层图记忆，WordVoice 关注 LLM-TTS 中的词级控制；本卡片的增量在于从安全领域切入，系统综述 LLM 智能体的方法、应用与评估，尤其强调权限边界与可审计性，是对“LLM 智能体如何被可信地使用”这一问题的领域级补充。

局限与不确定性

• 目前仅依据 arXiv 摘要与元数据，无法确认具体纳入文献数量、检索策略、纳入/排除标准（待核实）。
• 被综述的安全任务清单、数据集名称、指标定义、基线结果等细节，需阅读全文后确认（待核实）。
• “2023–2026”的年份范围来自摘要，但具体截稿时间或是否包含在线先发文献未说明（待核实）。

可用于图书/PPT/简报的角度

• 从“能行动”到“可审计”：安全 LLM 智能体的成熟度阶梯。
• 安全自动化三问：架构怎么搭、任务怎么选、评估怎么比。
• 给自主系统授权之前，先检查权限边界与行为留痕。

原始材料

• 英文标题：LLM-Based Agents for Software and Systems Security: Approaches, Applications, and Assessment
• 作者：Jingjing Nie, Jiawei Guo, Krishna Meda, Haipeng Cai
• arXiv ID：2608.28490v1
• 投稿/更新时间：2026-08-28
• 主分类：cs.CR；相关分类：cs.AI
• 摘要页：https://arxiv.org/abs/2608.28490v1
• PDF：https://arxiv.org/pdf/2608.28490v1