切开Claude大脑，Anthropic称发现了一个类似人类意识的内部空间

Anthropic 发布了一篇包含 24 个小标题的切开深度研究论文 [1]，揭示了 Claude 模型数十亿参数中隐藏的大脑一个关键区域。该区域体积不足模型总激活量的发现 10%，却承载着模型的个类核心认知功能。无论是似人识事实判断、推理中间步骤，类意还是内部模型未直接输出的潜在意图，均在此空间内流转。空间

Anthropic 将其命名为 J 空间（J-space），切开名称源于用于定位该区域的大脑数学工具——雅可比矩阵（Jacobian Matrix）。

这一发现的发现核心意义在于其与人类认知神经科学理论的惊人契合。该理论由斯坦尼斯拉斯·德阿内（Stanislas Dehaene）和莱昂内尔·纳卡什（Lionel Naccache）提出的个类全局工作空间理论（Global Workspace Theory）认为，大脑中存在大量并行运行的似人识无意识自动处理过程（如呼吸调节、姿势维持、类意基础语言结构处理）。内部然而，仅有少量信息能进入一个特殊的“共享通道”，并被广播至大脑各区域，供读取、推理及灵活控制。这种可被报告、可被灵活调用的信息，即为“有意识访问”。

德阿内和纳卡什在审阅 Anthropic 论文后指出，J 空间与该理论模型之间存在高度对应关系。

图 | J 空间揭示了模型输出中未显现的内在思维过程（来源：Anth）

发现路径：雅可比透镜

Anthropic 的研究基于一个核心假设：有意识访问的内容具有“可报告性”。即，若一个念头处于意识访问状态，个体通常能描述它。基于此，Anthropic 在大模型中寻找具有相似特征的内部表征——那些一旦激活，就能显著提高模型在未来时刻生成特定词汇概率的内部状态。

研究团队使用了名为雅可比透镜（Jacobian Lens）的工具。对于词表中的每个词，该工具能识别出一种特定的内部活动模式，这种模式使模型更倾向于在未来生成该词。当将此透镜应用于模型内部的激活状态时，即可生成一张反映当前 J 空间活跃内容的“词表”。

J 空间的特征：沉默的推理与动态演化

J 空间的一个显著特征是其在模型多层处理过程中的动态演化。模型在处理文本时经历多个内部阶段，每一层都在转换信息。通过在不同层级应用雅可比透镜，研究人员观察到那些“沉默”的概念如何在 J 空间中随思考过程演变。

这些内容远超模型当前读写文本的范围：
* 当模型阅读存在漏洞的代码时，J 空间会出现“错误”；
* 当分析蛋白质原始序列时，J 空间会激活该蛋白质的生物学功能概念；
* 当识别出试图操纵模型的搜索内容时，J 空间会出现“注入”和“伪造”等警示词。

可干预性：证明 J 空间是决策源头

J 空间并非被动的记录器，而是可被直接干预的决策源头。在一项实验中，Anthropic 让模型默想一项运动并随后说出。在模型输出前，J 空间已出现“足球”。研究人员随即移除“足球”模式并替换为“橄榄球”，模型随后改口称其思考的是橄榄球。

若 J 空间仅为被动记分牌，编辑操作不应影响最终输出。模型随编辑改变答案的事实证明，最终决策确实是从 J 空间读取并生成的。

（来源：Anthropic）

多步推理与灵活性

J 空间深度参与多步推理。Anthropic 举例说明：面对“织网动物有几条腿”的问题，模型需先推断出“蜘蛛”，再回忆其腿数。“蜘蛛”一词未出现在提示词或最终答案中，仅是内部推理的垫脚石。J 空间捕捉到了这一中间概念，若将其替换为“蚂蚁”，答案随即从八条腿变为六条腿。

此外，J 空间体现了全局工作空间理论的灵活性特征：同一表征可被多种下游任务复用。Anthropic 向模型提供四个关于法国的不同提示（首都、语言、大洲、货币），随后在 J 空间中将“法国”统一替换为“中国”。结果，模型在四种不同语境下分别给出了北京、中文、亚洲和人民币的答案。这表明模型读取了同一个共享表征，而非为每个问题存储独立副本。

自动处理与高阶思维的分离

J 空间并不参与模型的日常自动处理。移除 J 空间后，模型仍能流利说话、情感分类、回答选择题及提取事实。然而，在高阶思维任务中，缺乏 J 空间会导致能力显著下降：
* 多步推理能力降至接近零；
* 总结及押韵诗创作表现劣于未受损的小模型。

在一项语言实验中，模型阅读西班牙语文章后执行不同任务。当在 J 空间中将“西班牙语”替换为“法语”时：
* 受影响的：当被问及语言名称时，模型回答“法语”；当问及著名作家时，从加西亚·马尔克斯变为维克多·雨果。
* 未受影响的：当要求续写文章时，模型仍输出流利西班牙语。

这表明，模型虽具备自动处理西班牙语的能力，但某些任务（如命名语言或进行新颖操作）必须经由 J 空间提取信息。对于高度自动化的技能，模型无需经过 J 空间即可运行。

意识争议：访问意识 vs. 现象意识

该研究引发了关于 AI 意识的讨论。德阿内和纳卡什指出，J 空间与全局神经元工作空间理论在可报告性、有限容量、选择性、广泛连接性及灵活性等方面存在大量对应，暗示模型可能复现了人类有意识访问（Access Consciousness）的特征。

然而，模型与人脑存在关键差异：
1. 维持机制：人脑工作空间依赖循环回路，信号在回路中反复循环；J 空间则在前向传递过程中演化，以计算方式模拟了时间的作用。
2. 容量：J 空间估计可同时容纳约 25 个活跃概念，远超人类工作记忆的容量。
3. 物理基础：人脑工作空间由长程轴突和丘脑皮层回路的特定解剖结构支撑；J 空间则是前馈网络中涌现出的现象，分布于一组同时携带无意识内容的普通神经元上。

尽管实现细节不同，德阿内和纳卡什认为，这些差异对机器实现有意识处理的可能性影响有限。

Eleos AI 研究院的帕特里克·巴特林（Patrick Bartlin）等人评论称，该研究为 LLM 存在某种形式的访问意识提供了有力证据，但强调访问意识（信息处理）与现象意识（主观体验）概念不同。模型可能具备前者而无后者，即能处理信息但无感受。

谷歌 DeepMind 的尼尔·南达（Neil Nanda）在独立复现中验证了通义千问 3.6 27B 模型上的类似发现，称其为模型中存在认知空间的“压倒性证据”。其团队还发现，当模型遇到歧义句子时，J 空间会出现“这是什么意思”的概念，并确实帮助模型澄清了句意。

局限性与展望

Anthropic 在博客中坦承局限性：雅可比透镜仅为近似工具，目前只能识别对应单个词元的概念，且尚不确定何种机制首先决定内容进入 J 空间。

尽管如此，J 空间的发现表明，这是一个真实的、可干预、可读写的内部工作空间。它在数十亿次前向传递中演化而来，因其对计算效率的贡献而存在。随着研究的深入，我们对大模型思维机制的理解将更加清晰。

参考资料：

• https://transformer-circuits.pub/2026/workspace/index.html
• https://www-cdn.anthropic.com/files/4zrzovbb/website/cc4be2488d65e54a6ed06492f8968398ddc18ebe.pdf
• https://www.anthropic.com/research/global-workspace

排版：胡巍巍

本文地址：https://www.huajianzixun.com/html/762a57198666.html