知识卡片:Anthropic 发布 2026 版 Usage Policy 更新
一句话结论
Anthropic 于 2026 年 10 月 8 日发布新版 Usage Policy,主要将既有规则按 Claude 新能力(更长程、更自主的工作)重新整理与明确,新增“欺骗性活动”合并条款、重新聚焦选举条款、细化武器与监控禁令,并首次加入针对“持续虐待模型行为”的禁令,新政策 2026 年 11 月 12 日生效。
事件概述或研究问题
Anthropic 公告称,其每年会依据模型能力演进与客户反馈更新 Usage Policy。本次更新的多数内容是澄清既有规则,而非根本性转向。背景是过去一年 Claude 承担了更长、更独立的工作,同时 Anthropic 在影响力行动、武器开发、监控等领域观察到新的滥用模式(其称已记录在最新的威胁情报报告中)。更新还涉及健康、金融等高风险用例的说明,以及 Claude 被用于自主物理行动时的控制要求。
方法/产品要点
- 新增章节:“Do Not Engage in Deceptive Campaigns or Artificial Activity”,把原先分散在选举、欺诈、隐私、虚假信息各处的规则合并,覆盖政治与商业两类欺骗活动,包括隐藏信息幕后主体、用假账号放大内容、以及搭建影响力行动工具与基础设施。
- 选举条款重构:更名为“Do Not Undermine Democratic Processes”,聚焦禁止用 Claude 欺骗选民或扰乱选举(如传播候选人/投票虚假信息、冒充候选人/选举官员、压制投票率)。同时取消原先对个性化投票与竞选定向的全面禁令,理由是它误伤了非营利组织多语言选民信息、选举官员发送选票补正通知等合法公民工作;原本要禁止的行为仍由欺骗活动、监控、隐私条款覆盖。
- 武器禁令细化:明确禁令覆盖使武器运作的软件与组件,以及武装无人机和其他自主载具等行为;Anthropic 称这是对既有执行实践的反映,而非政策变化。
- 监控与执法条款重写:禁止未经同意追踪他人(实时或分析既有数据),禁止用 Claude 决定或建议执法/刑事司法中调查、逮捕、起诉对象,禁止用 Claude 构建或改进监控工具。同时列明仍允许的用途:经同意的追踪(如欺诈监控)、内容审核、新闻、法律研究。Anthropic 称这同样不反映执行实践变化,只是更明确。
- 高风险用例要求:健康、法律权利、财务、生计、基本服务等场景仍要求“人类在环”(有权限审查并必要时更改 Claude 建议的人),并须告知受影响个体使用了 AI。该节被重写以更直接回答哪些推荐被覆盖;并依据其 Model Hardware Standard,新增对连接可自主物理行动、可能致伤硬件的模型要求:须有合格操作员能观察并在需要时停止设备,且 Claude 断连时设备须能保持安全状态。
- 虐待模型条款:新增禁止对模型持续且无必要地虐待或残忍行为,仅适用于极端、反复且无明显目的的案例,不适用于常见用户受挫、反驳、黑暗创作主题或模型测试研究。与既有一项措施一致:允许 Claude 在 Claude.ai 和 Claude Code 上终止与持续虐待用户的罕见对话,该终止能力仍是主要执行机制。
- Supported Regions Policy 澄清:明确禁止身处不支持地区的人、在不支持地区注册或设立总部的实体、以及由这些地区个人或实体多数持有或控制的实体使用 Claude。
主要结果或产业意义
此次更新使 Anthropic 的使用政策更贴近其模型被用于长程自主任务、物理行动与高风险决策的现实,把分散规则集中化(欺骗活动)、把误伤合法用途的条款收窄(选举定向)、把执行实践写进文本(武器、监控)。对使用 Claude 的企业与开发者而言,直接影响包括:需复核自身用例是否落入高风险需“人类在环”与 AI 告知义务;涉及硬件自主行动的部署需满足可观察、可停止、断连安全状态要求;涉及选民信息、内容审核、新闻、法律研究等场景的合规边界更清晰。
为什么重要
- 与既有脉络的关系:本条与 10 月 6 日“扩展 Cyber Verification Program(CVP)”卡片同属 Anthropic 2026 年 10 月初的系列政策动作,但侧重不同——CVP 是给经审核安全专业人员开放更强网络能力,本条则是面向全体用户的通用使用规则更新,两者共同反映 Anthropic 在“能力开放”与“滥用管控”两端的同步调整。
- 政策文本从“分散禁止”走向“按滥用模式成体系组织”,并把执行实践显性化,有助于外部理解 Anthropic 的实际红线。
- 取消个性化投票定向的全面禁令,是相对少见的“放宽”动作,体现政策在防止滥用与保护合法公民用途之间的再平衡。
- 首次写入对模型本身的虐待禁令,把“模型福利/交互边界”纳入使用政策范畴。
局限与不确定性
- 公告为摘要,未给出完整条款逐条对照;具体措辞与执行细节需查阅完整 Usage Policy 与 Supported Regions Policy 页面。待核实。
- “持续且无必要虐待”的判定标准、极端案例门槛与申诉机制,公告未说明。待核实。
- 取消个性化投票/竞选定向禁令后,哪些具体行为仍被其他条款覆盖,边界需以完整政策文本为准。待核实。
- 高风险用例“人类在环”与 AI 告知的具体执行、审计方式,公告未展开。待核实。
- 新政策 11 月 12 日生效,生效前后的过渡安排未在材料中说明。待核实。
可用于图书/PPT/简报的角度
- 作为“AI 使用政策如何随模型能力演进”的案例,展示规则从分散到按滥用模式重组的过程。
- 用于讨论“高风险 AI 决策中的人类在环与 AI 告知”这一治理模板。
- 用于分析政策“收紧”与“放宽”并存的再平衡逻辑(欺骗活动集中化 vs 选举定向松绑)。
- 用于探讨 AI 与自主物理系统结合时的安全要求(可观察、可停止、断连安全态)。
- 用于讨论“对模型的虐待行为”是否应纳入使用政策这一新兴议题。
原始材料
- 标题:2026 Usage Policy update
- 来源:Anthropic Announcements
- 日期:Oct 8, 2026
- URL:https://www.anthropic.com/news/2026-usage-policy-update
- 关键词:Usage Policy, Deceptive Campaigns, Democratic Processes, Weapons Prohibition, Surveillance, High-risk Use Cases, Human in the Loop, Model Hardware Standard, Supported Regions Policy
发现内容有误?
免登录提交,管理员审核并完成修正后才会公开修订说明。
值得关注
**与既有脉络的关系**:本条与 10 月 6 日“扩展 Cyber Verification Program(CVP)”卡片同属 Anthropic 2026 年 10 月初的系列政策动作,但侧重不同——CVP 是给经审核安全专业人员开放更强网络能力,本条则是面向全体用户的通用使用规则更新,两者共同反映 Anthropic 在“能力开放”与“滥用管控”两…
相关主题
对应的教材知识点
根据卡片内容自动匹配,点击查看已审核的教材讲解: