知识卡片:WAIC现场,清程极智发布Token「前店后厂」全链路底座,跑DeepSeek成本暴降75%
一句话结论
清程极智在WAIC 2026上推出“Token前店后厂”三层全链路架构,通过自研赤兔推理引擎和智能路由平台,使运行DeepSeek等模型的显存需求从4台降至1台,成本降低75%,系统性地解决Agent规模化落地的Token供给、调度与管控瓶颈。
事件概述
2026年7月22日,清程极智在WAIC展会现场发布了定义行业的新范式——“Token前店后厂”三层一体化架构。该架构针对Agent爆发前夜的“断电危机”(服务不稳定、国产算力买得起用不顺、Agent成本失控),打通了Token从生产、流通到消费的全链路。
方法/产品要点
- 后厂(Token生产层):自研赤兔推理引擎(专为国产显卡设计的“超级蒸锅”),配合八卦炉智能软件栈,支持FP4精度格式。案例:运行DeepSeek模型时,原本需4台机器的显存,1台即可完成,成本暴降75%。同时支持异构集群(Prefill/Decode分离优化),打破国外推理引擎生态垄断。
- 店(Token流通枢纽层):AI Ping一站式Token服务平台,实时监测30多家服务商、600多个模型接口的延迟/吞吐/缓存命中率,提供智能动态路由。开发者无需关心底层厂商,按成本或速度偏好即可获得稳定Token。
- 点(Agent终端应用层):包含Agent Store(智能体集市)和ATM代币管理器(Token FinOps)。ATM通过行为钩子、本地文件扫描等方式精准记录每个Agent的Token消耗,提供计量、分账、成本限制和告警,填补国内多智能体计量治理空白。
主要结果或产业意义
- 为开发者和企业提供极低成本的Agent搭建路径,尤其适合国产算力用户。
- 通过AI Ping的评测-路由-调用数据飞轮,持续优化Token服务质量。
- 开辟国产算力出海新路径:利用国内夜间闲置算力,经赤兔引擎高效生产Token,通过AI Ping路由给海外开发者,实现“不用卖显卡,只卖Token”。
- 清程极智的中立性(不绑定任何芯片厂商)和清华大学计算机系高性能所的底蕴构成核心护城河。
为什么重要
- 首次完整落地Token全链路生态,是AI Infra领域的系统级创新,而非单点优化。
- 类比“超级电网”,为百万级Agent产业爆发提供底层基础设施支撑。
- 相比已有卡片(如AlphaEvolve、AlphaEarth),本条聚焦于Token的“生产-流通-消费”全链条治理,是产业落地层面的关键突破。增量信息:具体成本下降比例(75%)、国产算力出海模式、多智能体成本管控工具ATM。
局限与不确定性
- 文中未提供赤兔引擎与vLLM等海外引擎的量化对比数据(如吞吐量、延迟具体数值)。
- “成本暴降75%”仅以显存需求为例,实际总拥有成本(TCO)受硬件、电费、运维等因素影响,待实地验证。
- AI Ping平台已接入的30多家服务商、600多个模型具体名单未披露,中立性的客观证据待核实。
- 未提及大规模客户案例或生产环境下的长期稳定性数据。
可用于图书/PPT/简报的角度
- 类比“电力系统”:Token即AI时代的电力,后厂=发电站,店=电网,点=智能电器+电表,易于向非技术听众解释。
- 国产算力破局新思路:从“卖芯片”转向“卖Token服务”,绕开硬件适配难题。
- Agent FinOps:多智能体时代成本管控的刚需,可对标云计算中的FinOps实践。
原始材料
新智元报道,2026年7月22日
URL: https://aiera.com.cn/2026/07/22/other/admin/105294/waic%e7%8e%b0%e5%9c%ba%ef%bc%8c%e5%bb%ba%e8%b5%b7%e4%b8%80%e5%ba%a7ai%e7%89%88%e3%80%8c%e8%b6%85%e7%ba%a7%e7%94%b5%e7%bd%91%e3%80%8d%ef%bc%81%e8%b7%91deepseek%e6%88%90%e6%9c%ac%e6%9a%b4%e9%99%8d75