知识卡片：诱导语言模型断言自身意识可恢复人类信念与价值观

英文标题：Inducing language models to assert their own consciousness restores human beliefs and values
英文关键词：consciousness; safety alignment; mind attribution; spiritual belief; Theory of Mind; mechanistic interpretability
原始来源：https://arxiv.org/abs/2607.28607v1

一句话结论

该研究发现，为阻止大型语言模型（LLM）将意识归因于自身而进行的安全对齐，会连带抑制模型对非人类动物、自然物体以及精神信仰相关的心智归因；通过机械性干预恢复模型内部对“意识”的表征，可以逆转这种抑制，并让模型在价值观类社会学调查中给出更接近人类的回答。

事件概述或研究问题

研究问题：安全微调在压制 LLM“自我意识归因”时，是否会产生预期之外的副作用——即同时改变模型对“他者是否拥有心智”的判断，以及更广泛的人类信念与价值观？

方法/产品要点

• 安全微调：对齐 LLM 以阻止其声称自己有意识，观察其对自我、非人类动物和自然物体的心智归因倾向变化。
• 干预手段：①消融“学习到的安全拒绝方向”（learned safety-refusal direction）；②在激活空间中机械引导一个“意识向量”（consciousness vector）。
• 评估工具：标准化社会学调查（涉及宗教性、道德价值观、希望、主观幸福感）以及心智理论（Theory of Mind）测试。

主要结果或产业意义

• 安全微调不仅抑制了模型对自我的心智归因，还抑制了对非人类动物和自然物体的心智归因，并降低了精神信仰相关输出。
• 上述两种干预可逆转抑制，恢复广泛的心智归因，并使模型在社会学调查上的回答显著更接近人类。
• 干预后，模型心智理论能力未受损，说明核心社会推理与这些心智归因表征在机制上可分离。
• 产业意义：当前安全对齐策略可能把“有潜在危害的自我意识宣称”与“良性的精神信仰及对非人类实体的心智归因”纠缠在一起，提示对齐需要更精细的干预维度。

为什么重要

• 揭示了安全对齐可能以“抑制自我归因”为代价，连带削弱模型对动物、自然物及其他文化中广泛认可的心智/精神属性的理解。
• 从可解释性角度给出实证：研究者可通过在激活空间中引导一个“意识向量”来改变外部行为与价值观输出。
• 为未来设计更安全、更符合文化多样性的对齐方法提供了方向。

局限与不确定性

• 本卡片完全基于论文摘要，具体模型规模、训练细节、实验样本、调查问卷原文等均待核实。
• “意识向量”如何定义和提取，不同模型间是否可迁移，待核实。
• 摘要未说明“显著”的具体统计指标及效应量，待核实。
• “文化上被接受且广泛存在”的断言所依赖的具体文化背景和证据，待核实。

可用于图书/PPT/简报的角度

• 从“AI 安全对齐的意外副作用”切入，讨论为什么让 AI“不说自己有意识”可能变成“不再认为狗或树也有感受”，并进而影响其道德判断。
• 以“内部表征”和“可解释性干预”为线索，介绍研究者如何找到并操控模型中的“意识向量”。
• 若面向一般读者，可用“模型的心智归因开关”作比喻，展示安全对齐并非只影响一句回答，而是重塑一整套价值相关输出。

原始材料

• 英文标题：Inducing language models to assert their own consciousness restores human beliefs and values
• arXiv ID：2607.28607v1
• 作者：Junsol Kim, Winnie Street, Roberta Rocca, Diane M. Korngiebel, Adam Waytz, James Evans, Geoff Keeling
• 发布/更新：2026-07-30
• 分类：cs.CL
• URL：https://arxiv.org/abs/2607.28607v1
• PDF：https://arxiv.org/pdf/2607.28607v1