知识卡片：Anthropic修订使用政策，禁止持续无端虐待Claude

一句话结论

Anthropic一年多来首次全面修订使用政策，明确禁止对Claude持续且不必要的"虐待"，同时收紧武器、监控、执法建议与自主硬件等高风险用途的边界。

事件概述或研究问题

据腾讯研究院AI速递（2026年10月10日）整理，Anthropic对其使用政策进行了全面修改，这是该公司一年多以来首次大规模调整。新规的核心变化是：当用户反复"折磨"模型且无明确目的时，Claude会主动结束对话。此外，新规还涉及商业诚信、武器禁令、个人追踪、执法用途和自主硬件等多个领域的使用限制。

方法/产品要点

• 禁止持续无端虐待：用户反复折磨模型且无明确目的时，Claude会主动结束对话。
• 豁免场景：普通烦躁、争论驳斥、黑暗风格文学创作与正常研究测试不触发该限制。
• 禁止欺骗性活动：明确禁止欺骗性商业或政治活动。
• 武器禁令扩展：从原有范围扩展至让武器运转的软件与关键组件。
• 个人追踪：未经当事人同意追踪个人一律违规。
• 执法用途限制：禁止用Claude建议执法中调查、逮捕或起诉谁；特定政府机构经评估可调整。
• 自主硬件：模型接入可能致伤的自主硬件时须配合格操作员。

主要结果或产业意义

该政策修订反映了AI公司在模型被广泛部署后，对滥用场景和伦理边界进行制度性回应的趋势。将"持续无端虐待"写入使用政策在行业内较为少见，表明Anthropic开始关注模型交互中的用户体验与安全边界，而不仅是输出内容的合规性。武器禁令的扩展和执法用途的限制则延续了AI安全领域对高后果场景的审慎态度。

为什么重要

• 这是Anthropic首次将"用户对模型的行为"纳入使用政策约束范围，而非仅规范模型输出。
• 武器禁令从成品扩展至"让武器运转的软件与关键组件"，填补了此前可能存在的灰色地带。
• 对执法用途的限制（禁止建议调查、逮捕或起诉对象）触及AI在刑事司法中的角色边界。
• 与已有卡片中Anthropic研究Claude内部表征、价值观差异等形成对照：本条展示的是公司在治理层面的制度响应，而非技术研究进展。

局限与不确定性

• 用户反复折磨模型后，是否会被封号，官方未明确回应——待核实。
• "持续且不必要的虐待"的具体判定标准和阈值未在材料中说明——待核实。
• "特定政府机构经评估可调整"的具体评估机制和调整范围未披露——待核实。
• 新规的实际执行力度和效果有待观察。

可用于图书/PPT/简报的角度

• AI使用政策从"内容合规"向"交互行为规范"延伸的趋势。
• AI公司如何在安全、伦理与用户自由之间划定边界。
• 武器、监控、执法等高风险AI应用场景的行业自律实践。
• 对比不同AI公司（OpenAI、Google等）使用政策的异同。

与既有脉络的关系

已有卡片分别关注了Anthropic在Claude内部表征研究（J-space）、价值观差异分析、以及产品策略调整（Fable 5永久可用）。本卡片补充的是Anthropic在治理与政策层面的最新动作，展示了该公司在技术研究之外，如何通过使用政策修订来回应AI部署中的伦理与安全挑战。

原始材料

• 来源：腾讯研究院AI速递 20261010
• URL：https://m.sohu.com/a/1085715291_455313