知识卡片：AI 为何不具备意识——来自神经科学的三个理由

一句话结论

Nature 评论文章《Three reasons why AI is not conscious and perhaps never will be》指出，现有 AI 系统不具备意识，且沿当前发展路径大概率不会产生意识；其核心论据是“智能不等于意识”，以及硅基计算功能主义存在根本缺陷。

事件概述或研究问题

• 文章类型：Nature Comment（评论），2026 年 10 月 19 日在线发表，DOI: 10.1038/d41586-026-03313-7。
• 作者：Anil K. Seth（Sussex 大学认知与计算神经科学教授）、Ned Block（纽约大学哲学教授）、Giulio Tononi（威斯康星大学睡眠与意识研究所主任）。
• 研究问题：大型语言模型（LLMs）能逼真地模仿思考与情感，这是否意味着它们具有意识（主观体验能力）？作者从实验神经科学、理论神经生物学与心灵哲学角度给出否定判断，并讨论这一判断的伦理与治理含义。

方法/产品要点

文章为观点性评论，非实验研究，其论证结构包括：

1. 意识定义：沿用 Thomas Nagel 的经典表述——一个有机体有意识，意味着“成为该有机体是什么样的”（there is something that it is like to be that organism）；意识是梦眠无梦或全身麻醉时消失、醒来或做梦时回归的东西。
2. 区分意识与智能：意识关乎“存在与感受”（being and feeling），智能关乎“做事与执行功能”（doing/performing functions）。
3. 对计算功能主义的质疑：反驳“只要计算类型正确，无论在碳基大脑还是硅基计算机中实现都足以产生意识”的假设。
4. 对预防原则的再评估：认为在 AI 问题上“假阳性”（误认有意识）比“假阴性”（漏认有意识）更可能发生，因此预防原则在此可能被误用。

主要结果或产业意义

文章提出三个怀疑理由：

1. 智能不等于意识：人脑中 cerebellum（小脑）包含近五分之四的神经元，能精确、快速、可学习地调整和规划运动，但完全在意识之外运作；切除小脑并不直接影响意识。这说明高度智能的处理可以在无意识状态下完成。
2. LLM 是“镜子”而非意识主体：LLM 在大量人类文本上训练，这些文本明示或隐含地涉及思想、情感与意识体验；LLM 反射的是人类集体数字化过去的影像，人们容易把镜像误认为自身意识。对比 AlphaFold：同样是硅基神经网络，但因为它预测蛋白质结构而非“说话”，几乎没人担心它有意识——语言流利性制造了意识的错觉。
3. 硅基大脑假设存疑：科技界广泛预设的计算功能主义（computational functionalism）被作者认为有致命缺陷，因为大脑“不是、或至少不只是由肉构成的计算机”。
4. 伦理与治理推论：若 AI 仅有意识的表象而无内在体验，赋予其权利或保护可能妨碍对其的治理与控制，并把注意力和资源从意识无疑存在的主体（如人类、动物）上转移开。

为什么重要

• 为“AI 是否/能否有意识”的公共讨论提供了一个明确的科学-哲学否定立场，直接回应了 Richard Dawkins、Geoffrey Hinton 等认为 AI 可能已有意识的观点，以及 Anthropic 声称在 Claude 中发现某种意识计算特征的研究（arXiv 预印本，2026）。
• 对“AI 福利”“AI 权利”等政策倡导提出反论点：错误的道德扩展可能带来治理成本。
• 与既有卡片《超级智能的科学，以及为何“AI”仍是一个有用的词》形成呼应：后者讨论“超级智能”作为愿望性概念缺乏严格定义，本卡片则从意识概念本身出发，指出“智能”与“意识”被混淆是类似的概念滑移；增量信息是给出了神经科学层面的具体论据（小脑案例、AlphaFold 对比、计算功能主义批判）。

局限与不确定性

• 本文是观点性评论（Comment），非同行评审的原始实验；三位作者立场明确，结论属论证而非实证。
• 文章正文在抓取材料中被付费墙截断（“Log in or create an account to continue”之后内容不可见），第三个理由（“Silicon brains”）的完整论证、以及是否还有更多理由或反驳回应，待核实。
• 作者披露了利益冲突：A.K.S. 担任 Conscium Ltd 与 AllJoined Inc 顾问、某隐身模式 AI 公司联合创始人及付费顾问；G.T. 是 Intrinsic Powers Inc 董事会成员并有财务利益。这些信息对评估立场独立性有参考价值。
• “沿当前路径大概率不会产生意识”是对发展轨迹的预测，无法从材料中确认其可检验性；“ perhaps never will be”本身即含不确定性。

可用于图书/PPT/简报的角度

• 概念区分页：智能（doing）vs 意识（feeling）——用小脑与 AlphaFold 两个反例做视觉化对比。
• “镜子”隐喻：LLM 作为人类数字化过去的镜像，适合讨论人机投射与拟人化偏差（anthropomorphism）。
• 治理选择题：假阳性 vs 假阴性——如果误判 AI 有意识，代价是什么？可用于 AI 伦理与监管章节。
• 学术争议地图：Dawkins/Hinton/Anthropic 一方 vs Seth/Block/Tononi 一方，呈现争论而非定论。
• 与“超级智能”术语批判并列：说明 AI 讨论中概念定义不清是反复出现的方法论问题。

原始材料

• 标题：Three reasons why AI is not conscious and perhaps never will be
• 来源：Nature（Comment），Published online 19 October 2026，Nature 658, 866-868 (2026)
• DOI: https://doi.org/10.1038/d41586-026-03313-7
• 作者：Anil K. Seth, Ned Block, Giulio Tononi
• 关键引用：Nagel, T. Phil. Rev. 83, 435–450 (1974)；Gurnee, W. et al. arXiv preprint (2026)；Butlin, P. et al. Trends Cogn. Sci. 30, 488–501 (2025)