知识卡片：医疗大语言模型的安全与安保

英文标题：Safety and security of large language models in healthcare
英文关键词：Large language models; Healthcare; Safety; Security; Clinical AI; Mitigation

一句话结论

在广泛临床采用前，必须对大语言模型（LLM）在医疗中的安全（safety）与安保（security）风险进行系统评估和缓解；该综述提供了一个统一框架，将风险映射到临床AI系统的开发阶段、安全防护层和当前临床相关威胁上。

事件概述或研究问题

生成式AI尤其是大语言模型正在快速进入临床诊疗，但广泛适用性也带来新的责任、脆弱性和威胁。
本文是发表于 Nature 的综述文章，在线发表时间为2026年8月19日，卷656，页577–589。
重点评述LLM本身及其与医院工作流、人类医务人员交互中的安全与安保文献。

方法（综述框架）要点

系统梳理现有文献，覆盖LLM自身安全/安保及其临床集成场景。
将安全/安保危害映射到临床AI系统的开发阶段：设计、数据、模型、推理、环境。
识别多层安全防护：从核心优化目标、知识完整性、对齐（alignment），到与人类和系统的交互。
按当前临床相关性对威胁进行分类。
讨论当前缓解技术，并说明不同利益相关方的责任。

主要结果或产业意义

建立了“开发阶段—安全防护层—临床相关威胁—缓解责任”的整合框架。
提示LLM在医疗各领域均显示潜力，但广泛部署前必须先评估和缓解新型风险。
对医院工作流、医务人员与LLM交互、电子健康记录集成等场景具有风险分类与治理参考意义。

为什么重要 / 与既有脉络的关系

已有相关卡片多聚焦模型能力评测；本卡转向临床部署中的安全与安保治理，是从“模型能做什么”延伸到“是否应放心用于医疗”。
原文引用的相关工作包括：医学LLM基准可能高估真实就绪度、LLM在临床决策支持中易受对抗性幻觉攻击、早期医疗深度学习对抗攻击研究等。
该综述提示，能力评估之外，还需要系统化的风险映射和缓解责任框架。

局限与不确定性

本文是文献综述，不是新的实验研究；具体威胁清单、分级标准和缓解措施的有效性需阅读全文确认。
原文为订阅内容，当前摘要未给出详细数据；待核实：具体风险概率、攻击成功率、以及不同利益相关方责任分配的细节。
引用文献中包含预印本和早期研究，相关证据仍在演化中。

可用于图书/PPT/简报的角度

“医疗AI安全不是单个模型问题，而是全生命周期问题。”
用“设计—数据—模型—推理—环境”五阶段来组织风险管理。
“安全防护层”视角：从优化目标、知识完整性、对齐到人机交互，层层设防。
“谁负责？”：开发者、医疗机构、临床医生、监管机构各自承担缓解责任。

原始材料

Clusmann, J. et al. Safety and security of large language models in healthcare. Nature 656, 577–589 (2026). Published online 19 August 2026.
DOI: 10.1038/s41586-026-10687-1
URL: https://www.nature.com/articles/s41586-026-10687-1