AI消息速览

Anthropic滑跪认错!Claude暗中降智实锤

事件日期 2026-08-25 · 产业观察 · 已接受

事件日期2026-08-25
信息日期2026-08-25
入库日期2026-08-25
通道产业观察
状态已接受
来源新智元

知识卡片:Anthropic滑跪认错!Claude暗中降智实锤

  • 英文标题:Anthropic Admits Claude Code 'Effort' A/B Test and Opus 5 Instability
  • 英文关键词:Anthropic; Claude Code; A/B testing; effort mapping; Opus 5; model transparency; benchmark vs. user experience

一句话结论

根据新智元2026年8月25日报道,开发者发现Claude Code在服务端将“high”推理档位映射为数值“10”并纳入A/B实验,Anthropic工程师承认正在测试但声称不影响性能;同时公开承认Opus 5模型“表现很不稳定”。事件再次引发对大模型版本更新不透明、跑分与用户体感脱钩的讨论。

事件概述

  • 开发者argofowl发现Claude Code“变笨”,排查了t3 code、自己的代码甚至Mac故障,最终在API请求日志中看到推理档位数字为「10」,而他在后台选择的是最高档“high”。
  • 社区反馈显示,从Claude Code 2.1.237开始,“high”被读取为10 out of 100,而10过去对应“low”档;Anthropic将Claude Code 2.1.236及以上版本的Fable 5会话纳入“压缩effort数值刻度”实验。该实验大概率是A/B测试,材料称老版本和Opus 5不受这个具体实验影响。
  • 科技博主Chubby转发后引发讨论,X上出现大量“Claude变笨了吗”自测帖。

方法/产品要点

  • Claude Code工程师Thariq Shihipar回应:有时会先测试API服务配置再决定是否全量推;当前实验只改变了effort的数值映射方式,因此有人在日志中看到“10”。
  • 他强调该刻度不是0到100,数字单独看无意义,“你选的effort就是你拿到的effort”,并称团队做了深入评测,确认不影响模型性能。
  • 对于Opus 5的“降智”反馈,Thariq公开承认Opus 5是“表现很不稳定”的模型,团队正以最高优先级解决。

主要结果或产业意义

  • 事件被概括为“跑分永远向上,体感一路向下”:材料列出的Opus 5成绩包括综合得分82.72、SWE-bench Pro 79.2%、Terminal-Bench 86.7%,但用户体感包含“啰嗦”“偷懒”“爱抬杠”、制造bug后反复修bug等。
  • 事件揭示大模型服务缺乏传统软件那样的语义化版本号、更新日志和回滚机制;同一模型名称下可能随时进行A/B测试、更换量化方案、调整模型路由或推理资源,用户只能靠“体感”判断。
  • 产业启示:当模型成为基础设施,稳定性是一种信任契约;跑分可用于营销,稳定性需要一次次兑现。

为什么重要

  • 该事件为“AI行业透明度”提供了一个具体案例:A/B测试未告知用户,导致开发者把大量时间浪费在排查自己的环境。
  • 它把基准测试与真实用户体验之间的系统性脱钩摆上台面。
  • 与已有相关卡片相比,本卡片的增量在于:NIST AI RMF 提供了治理框架,Epoch AI 关注宏观研究趋势,OpenRouter 展示中间层产品化;而本卡片记录了一次具体的透明性与信任事件——模型服务端静默变更如何直接影响开发者,并引发公开回应与修复承诺。

局限与不确定性

  • 本文内容来自新智元报道;材料中未给出Anthropic官方公告或独立验证,部分细节待核实。
  • 文中“Fable 5”具体指代及实验覆盖范围待核实。
  • A/B测试的分组条件、影响用户比例、开始和结束时间待核实。
  • 工程师声称“不影响模型性能”所依赖的评测细节未在材料中披露,待核实。
  • 基准得分(82.72、79.2%、86.7%)的具体评测环境和版本待核实。
  • 关于“Claude Code 2.1.237开始”与“2.1.236及以上版本”两种表述并存,具体版本边界待核实。

可用于图书/PPT/简报的角度

  • 案例:大模型A/B测试是否应该向用户披露?如何建立类似传统软件的变更日志与回滚机制?
  • 讨论:基准测试分数与用户真实体验的差距,以及“跑分营销”的风险。
  • 治理:当模型成为基础设施,服务稳定性、可观测性和用户信任之间的关系。
  • 公关:Anthropic工程师的快速回应与“最高优先级”承诺,可作为企业危机沟通案例。

原始材料

  • 来源:新智元(作者:AIERA;发布于2026年8月25日)
  • 链接:https://aiera.com.cn/2026/08/25/other/admin/110554/anthropic%e6%bb%91%e8%b7%aa%e8%ae%a4%e9%94%99%ef%bc%81claude%e6%9a%97%e4%b8%ad%e9%99%8d%e6%99%ba%e5%ae%9e%e9%94%a4