知识卡片：谁有权为 AI 制定规则？

一句话结论

Cohere 联合创始人兼 CEO Aidan Gomez 在 2026 年 9 月 13 日博文中反对少数硅谷主导 AI 公司借“安全”争取反垄断豁免并替全球制定规则，主张以证据为基础的风险框架、强制透明度、按证据范围开展独立测试等替代路径。

事件概述或研究问题

• 来源为 Cohere Blog 文章 Who Gets to Define the Rules for AI?，副题 AI Needs Evidenced Standards, Not A Cartel，作者 Aidan Gomez。
• 文章针对 Anthropic CEO Dario Amodei “本周发布”的 roadmap，称其请求政府以安全名义给予反垄断豁免，让少数位于同一国家的最强实验室共同制定标准并限制技术发展速度，再要求其他 AI 开发者遵循。
• 核心问题：是否应由少数市场主导的硅谷 AI 公司为全世界定义 AI 规则与安全标准，并决定技术推进速度。作者承认 AI 需要护栏，但争议在于谁写规则、谁参与、保护谁的利益。

方法/产品要点

• 历史类比：1975 年 SEC 指定三家 Nationally Recognized Statistical Rating Organizations，未公开其他机构如何获得认证；25 年后仍只有三家，并因次贷 AAA 评级险些拖垮全球经济。1985 年欧洲 Motor Vehicle Block Exemption 让汽车制造商获反垄断豁免并制定销售/服务标准；欧委会约 25 年改革才撤销。作者用这些说明：安全目标可能造成保护在位者、限制竞争的市场结构。
• 对提案的批评：支持独立审查高能力 AI 系统，但质疑谁写审查标准、谁监督、谁参与规则设定。材料称提案寻求反垄断豁免，使少数实验室协调限制产出/发展速度合法化，并要求其他 AI 开发者盲从。
• 风险定义担忧：现有框架把风险定义为规模/巨大算力阈值，使拥有巨大系统的公司成为唯一合格评判者；忽略工具编排、验证步骤、网络蜂群等不同风险面。小模型良好编排可完成大模型做不到的事。安全规则不应保留现有商业优势。
• 进入门槛：巨大算力、持续监控、专门安全组织、驻场评估团队、关停架构、政府关系，以及由同一批前沿实验室资助的小型“独立”评估者池。
• 替代方案四支柱（摘录主要展示前三项，第四项待核实）：1 evidence-based risk framework；2 mandatory transparency；3 testing, scoped by the evidence。第一项主张国际协调、公开、非单一国家主导，技术/政策/关键部门专家参与，公开分歧，公共研究资助测试，规则按系统能做什么而非谁建造。第二项主张开发者披露构建方式、用途、能力、风险、缓解措施，并改进严重事件报告与问责。第三项主张最先进系统接受独立测试，但只针对风险框架认定为真正危险的能力和情境，例如网络攻击、合成欺诈与语音克隆、大规模操纵、物理或生化武器等；摘录在此处截断。

主要结果或产业意义

• 这是 AI 产业监管路线之争：一方认为少数大实验室借安全推动反垄断豁免，可能把安全规则变成竞争壁垒；另一方是被材料描述的 Anthropic CEO roadmap。
• 对创业公司和其他开发者，提案中的进入要求可能固化主导者的优势；对政策制定者，文章主张公开、国际、多利益相关方、公共资助测试、按能力约束而非按公司身份约束。
• 若按公司规模或算力定义风险，监管可能只覆盖已建成对应安全系统的大实验室所关注的风险，而忽略其他风险面。

为什么重要

• 规则制定权决定 AI 治理的合法性与竞争格局；安全标准若与市场进入门槛绑定，可能把当前领先者的优势写成“安全合规基线”。
• 与已有“邀请公众提出关于 AI 的艰难问题”卡片相比，本条增量不是公众提问倡议，而是围绕“谁有权制定 AI 规则”、反垄断豁免与监管俘获的产业政策争论，来自 Cohere CEO 的反对立场。
• 对图书/PPT/简报，可作为“AI 治理与反垄断”“标准制定权”“监管俘获”“安全与竞争”的案例。

局限与不确定性

• 材料是 Cohere CEO 的观点文章，不是中立研究；Cohere 自身是 AI 公司，存在利益相关。
• Anthropic CEO Dario Amodei roadmap 的具体标题、发布日期、完整条款待核实；材料仅称“本周发布”。
• “cartel”是作者定性，不是法律裁决。
• 历史类比的因果与细节需独立核实。
• 文章开头称有四项支柱，摘录只完整展示前三项，第四项待核实。
• 摘录在第三支柱处截断，完整建议需查阅原文。

可用于图书/PPT/简报的角度

• 谁有权写 AI 安全规则：公共问责 vs 少数公司自律。
• 安全标准是否可能变成竞争壁垒或监管俘获。
• 证据基础、独立测试、透明度与反垄断的交汇。
• 历史案例：信用评级机构与汽车售后豁免的监管教训。
• 按能力而非按建造者约束 AI。

原始材料

• English Title: Who Gets to Define the Rules for AI?
• English Subtitle: AI Needs Evidenced Standards, Not A Cartel
• English Keywords: AI regulation; evidence-based standards; independent testing; diverse voices; antitrust; cartel; AI safety
• Source: Cohere Blog
• Author: Aidan Gomez, Co-Founder & CEO
• Date: Sep 13, 2026
• Tags: Company News
• URL: https://cohere.com/blog/who-gets-to-define-the-rules-for-ai
• Fetched description: Explore why AI regulation should rely on evidence-based standards, independent testing, and diverse voices rather than rules set by a few dominant AI labs.