知识卡片：大语言模型辅助的自动驾驶攻击可达软件弱点动态分析

说明：原始正文未能抓取，本卡片仅基于已知元数据与候选摘要生成；以下具体数字、结论均需以正式原文为准，标注为“待核实”。

一句话结论

在完整自动驾驶软件栈 Autoware 上，LLM 辅助动态分析的主要瓶颈不是候选弱点生成，也不是模糊测试，而是“构建集成”（build integration）；研究预算内未动态确认任何候选弱点，观察到的崩溃全部来自桩代码而非 Autoware 本身。（待核实）

事件概述或研究问题

• 自动驾驶车辆依赖庞大的安全关键软件栈，攻击者可控输入可能影响转向、制动或其他控制决策。
• 静态分析可以找出候选弱点位置，但要动态确认其可利用性，通常需要人工构造可执行测试工件，成本很高。
• 本研究试图回答：大语言模型能否自动化完成这一过程，具体对象是开源自动驾驶软件栈 Autoware。（待核实）

方法/产品要点

• 对 Autoware 的 185 个软件包进行“编译器精确”的静态分析，识别出 1,375 条决策规则、2,274 项校验检查、482 条“输入到安全输出”数据流。（待核实）
• 基于这些结果导出弱点分类，并抽样 740 个攻击可达的候选站点。（待核实）
• 使用两个本地开放权重 LLM，另设一个“无静态上下文”消融模型和一个朴素模板基线，共生成 3,700 组测试工件集。（待核实）
• 生成的工件在真实构建系统中配合 sanitizer 编译，通过“编译器在环”反馈进行修复，并在可执行时进行模糊测试。（待核实）

主要结果或产业意义

• 构建集成失败分类显示：80% 的首次编译失败来自依赖装配/接线问题，而非程序逻辑错误。（待核实）
• 推理模型首次编译成功率为 64%，而代码专用模型仅为 6%。（待核实）
• 只有推理模型在大量添加桩代码后达到完整目标文件可编译；但不到一半的 harness 真正进入模糊测试阶段。（待核实）
• 所有 37 个观察到的崩溃都源自桩代码，而非 Autoware 本身。（待核实）
• 在预算内没有候选弱点被动态确认。（待核实）
• 产业意义：说明 LLM 辅助安全验证的真正工程瓶颈是“如何把自动生成的测试代码接入真实构建系统”，而非“模型能否生成候选测试逻辑”。（待核实）

为什么重要

• 自动驾驶软件涉及安全关键控制，弱点若被攻击者利用可能造成严重后果。
• 过去静态分析会产生大量候选弱点，但动态验证困难；本研究尝试用 LLM 把这一过程自动化。
• 结果显示：与其继续只优化候选生成或模糊测试，不如重视构建集成、依赖管理、编译反馈修复等工程环节。
• 与已有相关卡片无直接延续；本条增量信息是把 LLM 应用于 Autoware 攻击可达弱点动态验证，并给出“构建集成是主要瓶颈”的实证结果。

局限与不确定性

• 原始正文未能抓取，本卡片所有统计数字和模型细节均源自候选摘要，必须待核实。
• 结果仅针对 Autoware 和所选择的本地开放权重模型，不能直接推广到其他自动驾驶软件栈或商业闭源模型。
• “没有候选弱点被动态确认”不等于软件栈是安全的，可能是候选样本、harness 构造或桩代码策略导致的。
• 大量崩溃来自桩代码，说明许多 harness 可能没有充分执行真实 Autoware 代码，解释结果时需谨慎。
• 候选摘要未提供模型具体名称、数据集版本、计算预算等细节，需阅读原文补充。

与既有脉络的关系

• 已有卡片分别涉及 LLM 辅助金融文本改写、自动驾驶稀疏视角三维重建、3D 点云投毒攻击；本卡片不重复上述事实。
• 本卡片属于“LLM 用于自动驾驶软件安全验证”方向，强调动态分析中的构建集成瓶颈，是这一脉络下的新实证案例。

可用于图书/PPT/简报的角度

• 展示“静态分析 → LLM 生成测试工件 → 编译器在环修复 → 模糊测试”的自动化安全分析流水线。
• 用“80% 首次编译失败来自依赖接线”说明大型软件工程中构建集成的真实重要性。
• 用“推理模型 vs 代码专用模型”的首次编译成功率差异，讨论模型能力评估不应只看代码生成，还要看工程落地能力。
• 用“0 个弱点确认 + 37 个桩代码崩溃”作为负面结果案例，说明严谨的安全评估需要区分真实代码缺陷与测试基础设施噪声。

原始材料

• 英文标题：LLM-Assisted Dynamic Threat Analysis for Attacker-Reachable Software Weaknesses in Autonomous Vehicles
• 英文关键词：LLM; Dynamic Threat Analysis; Attacker-Reachable Software Weaknesses; Autonomous Vehicles; Autoware; Static Analysis; Fuzzing; Build Integration; Foundation Model
• 原始来源：https://arxiv.org/abs/2608.13450v1
• Track：academic
• Topics：foundation-model
• Manual title：LLM-Assisted Dynamic Threat Analysis for Attacker-Reachable Software Weaknesses in Autonomous Vehicles