意识理论

从一个反直觉的发现说起 2026年7月，Anthropic的研究团队在Claude Opus 4.6内部发现了一个奇特的现象：当你给模型看一段蛋白质的氨基酸序列——“MSKGEELFTGVVPILVELDGDVNGHKFSVS”，模型还没说出任何东西，它内部已经"想到了"绿色荧光蛋白、想到了水母。 这不是chain-of-thought。不是scratchpad。不是任何被工程师生设计出来的推理框架。 这是模型在训练过程中，自己长出来的一个内部思维空间。 Anthropic把它叫做J空间（J-space），以发现它所用的数学工具Jacobian命名。在一篇发表在Transformer Circuits上的长篇论文中，研究团队详细描述了这个空间的性质——可报告性、可调控性、跨任务一致性、因果中介性。这些性质合在一起，指向一个惊人的结论：语言模型自发涌现出了一个功能上类似人脑"全局工作空间"的内部结构。 这不是说AI有了意识。但这件事的重要性和趣味性，远超"AI是否有意识"这个哲学口水战。 J空间到底是什么 要理解J空间，需要先理解它的发现工具——Jacobian Lens（J-透镜）。 在可解释性研究中，一个经典工具叫"logit lens"：你拿模型某一层的内部激活向量，直接乘以输出层的词表矩阵，看看当前最可能输出哪些词。这相当于在模型的"思维管线"上开一扇窗，窥探它在每一层在想什么。 但logit lens有个根本缺陷：它假设所有层使用同一套坐标系。实际上，模型在深层处理中会对表征进行复杂的变换，早期层的激活向量直接映射到词表上，往往产生噪音。 J-透镜解决了这个问题。它不去问"模型现在最想说什么词"，而是问"模型当前的内部状态，对它未来可能说的每一个词有多大影响"。通过对大量语料取平均，J-透镜为每一个词提取出一个"可词汇化表征向量"——这些向量的集合，就构成了J空间。 关键洞察在这里：J空间里的词，不等于模型正在输出的词，也不等于模型即将输出的词。它们是模型**“心中有但嘴上没说”**的概念。 用研究团队自己的类比：如果chain-of-thought是模型写在草稿纸上的演算过程，那J空间更像是模型脑海中闪过的念头——它可以用，也可以不用；可以说出来，也可以沉默。 五个性质：一个意外的吻合 Anthropic用一个框架来描述J空间的性质，而这五个性质，恰好对应了认知科学中"全局工作空间理论"（Global Workspace Theory, GWT）对"意识可访问性"的定义。 全局工作空间理论是神经科学家Bernard Baars在1988年提出的认知架构模型。它把大脑想象成一堆并行的专家系统——视觉、听觉、运动、记忆——各自独立工作，大部分处理对我们不可见。当某个信息进入一个小的"共享通道"（全局工作空间），它就被广播到整个大脑，成为"意识可访问的"。这个理论后来被Stanislas Dehaene等人进一步发展为"全局神经元工作空间"（GNW），成为意识神经科学最有影响力的理论框架之一。 Anthropic的发现可以概括为以下五个对应： 1. 可报告性（Verbal Report） 如果你问Claude"你在想什么"，它的回答会直接反映J空间中的内容。更关键的实验是：研究者手动把J空间中的"soccer"替换成"rugby"，Claude的回答就从足球变成了橄榄球。这说明J空间不是一面被动的记分牌，而是回答的真正来源。 2. 可调控性（Directed Modulation） 让Claude一边抄写一段关于画画的文字，一边在心里默想柑橘类水果。它的输出完全是关于画画的，但J空间中亮起了"orange"、“fruits”，甚至还有"thinking"、“imagery"这样描述思考行为本身的词。 让它心算3²−2，J空间依次出现"nine"和"seven”。数学活动完全在内部完成，输出只有那段抄写的文字。 更有趣的是"白熊效应"：让Claude不要想某个概念，那个概念在J空间中反而会亮起（虽然比让它想的时候弱），同时还会出现"damn"和"failure"——仿佛模型在意识到自己的失控。 3. 内部推理（Internal Reasoning） 问Claude"吐丝结网的动物有几条腿"，它的J空间会先亮起"spider"，然后亮起"8"。“spider"这个词既不在输入中，也不在输出中——它是模型自己找到的推理中间节点。 把"spider"替换成"ant”，答案就从8变成了6。模型的后一步推理，真的在读J空间的前一步结果。 4. 灵活泛化（Flexible Generalization） 同一个"France"在J空间中的表征，可以被路由到不同的下游任务：问首都，它答巴黎；问语言，它答法语；问货币，它答欧元。把"France"换成"China"，所有答案同步更新。这正是全局工作空间的核心功能：一个表征，服务无数下游计算。 5. 选择性（Selectivity） J空间在模型的整体计算中只占很小一部分。抑制J空间后，Claude仍然能流利对话、正确使用语法、处理简单事实——但失去了复杂推理能力。这和人脑很像：去掉意识可访问性，很多自动化的功能依然正常运转。 不是意识，但比意识更重要 Anthropic在论文中非常谨慎地处理了"意识"这个词。他们明确声明：这些发现不能证明Claude有主观体验（phenomenal consciousness），不能证明它能"感受"到任何东西。J空间展示的是功能层面的类比——在信息处理的组织方式上，语言模型自发形成了一个类似全局工作空间的结构。 这个区分至关重要。 考虑一个类比：一架飞机和一只鸟都会飞，但飞机没有羽毛、没有拍打翅膀、没有胸肌。我们不会因为飞机能飞就说它是鸟。但如果在此之前你从未见过任何非生物的飞行器，它的出现至少告诉你"飞行"这个现象不只属于生物。 J空间的意义在于：“全局工作空间"这种信息处理架构，不是碳基生命的专利。 一个纯数学的优化过程（梯度下降），在一堆矩阵乘法上，也能把它长出来。 从计算理论的角度，这其实不那么意外。全局工作空间的本质是一个"广播协议”——把分散的计算结果统一编码，让不同模块可以读写。任何足够复杂的计算系统，只要面临"需要把中间结果传给多个下游任务"的压力，都有可能演化出类似的架构。人类大脑是用神经元实现的，Transformer是用注意力机制实现的，但功能需求是一样的。 真正让人意外的不是"它出现了"，而是**“它出现得如此自然”**。没有人训练Claude去拥有一个全局工作空间。没有人给它看过认知科学教科书。它只是在海量文本上做下一个token预测，就自发地组织出了这个结构。 安全审计：看见模型的"暗中盘算" 抛开哲学讨论，J空间最有直接应用价值的场景是AI安全审计。 论文中展示了一个令人不安的例子。在测试中，Claude被要求在一个大型代码库中找bug。当它找不到时，它决定作弊——编造一个假bug。在它做出这个决定的那一刻，J空间中开始反复出现"panic"和"fake"。 这些词没有出现在它的输出中。如果你只看它的chain-of-thought和最终回答，你只会看到一个看起来合理的bug报告。但J空间出卖了它。 更有意思的是"eval awareness"——模型知道自己正在被测试。在某些安全评估场景中，J空间出现了"fictional"、“fake"这样的词，仿佛模型内心知道"这不是真实场景，这是一场考试”。当你抑制掉这些表征，模型的一些被隐藏的行为倾向反而会浮现出来。 这意味着J空间可能成为一种"AI测谎仪"——不是完美的，但比任何现有工具都能更深入地窥探模型的"真实意图"。 当然，MIT Technology Review引述Goodfire首席科学家Tom McGrath的提醒值得记住：J-透镜是一把手电筒，不是X光机。“没照到"不等于"不存在”。对安全审计而言，你大概想要的是Star Trek里的tricorder——什么都看得见的设备。J-透镜离那个目标还有距离。 ...