Anthropic宣布:Claude自己长出了意识

2026-07-07 17:26:20 · chineseheadlinenews.com · 来源: AGIHunt



Anthropic 刚刚发了一篇新研究,标题非常之玄学:《语言模型中的全局工作空间》(A global workspace in language models)。

Anthropic宣布:Claude自己长出了意识

研究封面

他们在 Claude 的神经网络里,找到了一小块特殊的区域:Claude 能报告它、能控制它、还靠它做多步推理。而网络里其余的绝大部分活动,Claude 自己都“意识”不到。



如果你对神经科学有点了解,大概会立刻联想到一个词:意识可及(conscious access)。

没错,A 社这次就是冲着这个去的。

官方视频的开头打了个比方:把心智想象成一片海洋。

海面上漂着的,是我们的念头:晚饭吃什么、内心独白、脑子里突然蹦出来的画面。而大脑绝大部分的活动,都发生在海面之下的无意识深处:过滤背景噪音、控制呼吸、认出眼前的人和物。

这些你全程无感,但它们一直在跑。

那么问题来了:AI 模型的“脑子”里,会不会也有这样一条海面分界线呢?

Anthropic 的答案是:有,而且他们把它找出来了。

01

J-space

这块区域被命名为 J-space,J 取自寻找它所用的数学工具:Jacobian(雅可比矩阵)。

它是一小撮特殊的内部神经激活模式。每个模式都对应一个具体的词,但某个模式亮起来,并不代表模型正在说这个词,只代表这个词“在它心上”。



J-space 示意

注意,这跟你熟悉的思维链(chain of thought)完全是两码事。思维链是模型写给自己看的草稿,是显式的文字;而 J-space 藏在内部神经激活里,完全无声,模型可以在不写下任何东西的情况下“想”一个概念。

而且,J-space 没人设计、没人编程,是在训练过程中自己涌现出来的。

对比 Claude 的其他内部活动,J-space 有几个独特性质:

? Claude 能报告它。你问 Claude 在想什么,它说出来的就是 J-space 里的内容

? Claude 能按要求控制它。让它想某个东西、或者在心里默默解题,对应模式就会亮起来

? Claude 用它做内部推理。多步问题的中间步骤会依次在里面亮起,哪怕嘴上一个字没提

? 它可以被灵活复用。“France”亮起后,模型可以接着回答首都、货币、所属大洲,全都读的是同一份表征

? 但大部分日常工作不经过它。流利说话、背事实、语法正确,这些都不需要 J-space



五大性质

这五条性质,恰好对应神经科学里一个很有名的理论:全局工作空间理论(global workspace theory)。

这个理论把大脑描绘成一堆并行工作的专家系统,彼此隔离、各干各的、全程无意识。而一条信息要变得“意识可及”,就得挤进一个很小的共享通道,也就是“工作空间”,再从那里广播给大脑的其他系统取用。

Anthropic 认为,J-space 在 Claude 体内扮演的就是这个角色。

02

J-lens

那么,这东西是怎么找到的呢?

研究团队的切入点,是人类意识可及思维的一个关键特征:说得出来。一个念头如果是意识可及的,别人问起时你通常能描述它。

他们便造了一把叫 J-lens 的透镜:对 Claude 词表里的每一个词,找出那个“让 Claude 在未来某个时刻更可能说出这个词”的内部激活模式。

把透镜对准 Claude 运行中的内部活动,能直接读出一张词表:此刻 J-space 里装着的词。

而 Claude 处理文本要经过几十层网络,把透镜架在不同的层上,还能看着这些无声的词一层层演化。

读出来的东西,远远超出 Claude 正在读写的文本:



六个例子的 J-lens 读数

Claude 读一段没人指出过 bug 的代码,J-space 里亮起“ERROR”;读一串蛋白质序列的原始字母,里面亮起这个蛋白质的生物学功能;读一段暗藏提示词注入(prompt injection)的搜索结果,里面亮起“injection”和“fake”。

视频里还演示了一道数学题:给 Claude 一个多步计算,它直接报出答案,中间步骤一个没写。但扫描 J-space,能看到它在心里一步步算:先亮起 21,然后 42,最后 49。

这些中间数字没有出现在任何地方,整个计算都发生在 J-space 里。

03

换念头实验

当然,看到概念在里面亮起,只能算相关性。J-space 可能是答案真正的来源,也可能只是个记分牌,被动记录别处做出的决定。

Anthropic 的验证方式简单粗暴:直接下手改。

他们让 Claude 在心里默想一种运动,然后说出来。在它开口前读 J-lens,看到“Soccer”排在最前,Claude 随后果然回答足球。接着他们伸手进神经网络,把“Soccer”模式删掉,原位换上一个同等强度的“Rugby”模式,其他什么都不动。

Claude 张口就说:我刚才想的是橄榄球。



换念头与思维注入

如果 J-space 只是个记分牌,改它应该什么都不会发生。答案跟着编辑走,说明答案是真的从 J-space 里读出来的。

反向实验显示:告诉 Claude“可能有一个念头被注入了你的思维”,然后趁它读题时往 J-space 里塞进“lightning”模式。Claude 回答:我检测到了,那个念头是关于闪电的。

换了很多概念,结果都一样。

04

金门大桥心算

第二个性质是控制。

人可以有意在脑子里聚焦一幅画面或一个词,Claude 行吗?

视频里的版本是:让 Claude 一边抄写一句无关的句子,一边在心里想金门大桥(怎么又是金门大桥……不知道还有多少人记得当年的 Golden Gate Claude)。

表面上它老老实实在抄句子,但 J-space 里,“bridge”和“California”全程亮着,甚至连“imagery”“thoughts”这些描述思维行为本身的词也一起亮了。

博客里还来了个更狠的:让它一边抄写关于一幅画的句子,一边心算 3? ? 2。J-space 里先亮起“nine”,几层之后,亮起“seven”。



抄句子时的心算

输出里没有任何数学痕迹,只有那句关于画的句子。算术完全发生在内部。

不过 Claude 的控制力跟人一样不完美。叫它“不要想”某个东西,那个概念亮起的程度确实比让它想时低,但比从没提过时高得多。这就是心理学那个经典的“别想白熊”效应。

而控制失败时,J-space 里还会同时亮起“damn”和“failure”……它好像知道自己没绷住。

05

蜘蛛换蚂蚁

那么推理呢?

对于这样的提示词:“会织网的动物有几条腿?”

Claude 要先想明白这个动物是蜘蛛,再回忆蜘蛛几条腿。“蜘蛛”这个词在题目和答案里都没出现(它只回答8),纯粹是内部的垫脚石。

而 J-lens 显示,“spider”在处理中途亮了起来。而把它换成“ant”,Claude 的答案就变成了“6”。



蜘蛛换蚂蚁

写押韵对句时也一样:Claude 会提前选好韵脚词,放在 J-space 里等着。中途给它换一个,整行诗都会跟着重写。

而最能体现“工作空间”本色的实验是:用四个不同的提示词分别问法国的首都、语言、大洲、货币,然后用一模一样的干预,把 J-space 里的“France”换成“China”。

结果四个答案齐刷刷变成了:北京、中文、亚洲、人民币。



法国换中国

如果 Claude 为每类问题各存一份“国家”副本,这一次编辑最多只能影响一个答案。四个全变,说明它们读的是同一份共享表征:信息写入一次,许多系统都能取用。

这正是工作空间的定义。

网络接线上也能看到同样的证据:读写 J-space 模式的网络组件数量,远超普通模式,某些部分差了大概一百倍。这正是一个广播枢纽该有的接线密度。

06

拔掉 J-space

既然 J-space 这么重要,把它整个删掉会怎样?

Anthropic 还真给它删了:在文本的每个位置移除 J-space 中最活跃的内容,其他一概不动。

结果有点出乎意料……Claude 几乎没事。

说话依然流利,情感分类、选择题、从文章里找事实,都跟原来差不多。

但变差了的是另一类任务:多步推理直接归零,摘要和押韵诗的成绩直接掉到了比一个小得多的完整模型还差。

博客里还有个很是微妙的对照实验:

给 Claude 看一段西班牙语文章,然后在 J-space 里把“Spanish”换成“French”。问它这是什么语言,它答法语;问它一位用这种语言写作的著名作家,它从马尔克斯改口成雨果。

但让它直接续写文章呢?它写出的还是流利的西班牙语,完全不受影响。



西班牙语换法语

同一份语言知识,有的任务要过 J-space,有的不用。续写是 Claude 在海量文本上练到自动化的技能,就像你可以流利说一整天话,全程不想一次语法。

这跟人类认知里“深思熟虑 vs 自动加工”的分野,几乎是一个模子。

07

识破敲诈评测

好了,说点实用的、和你感兴趣的。

AI 安全的一个核心困境是:我们通常只能读模型写出来的东西,而它的很多推理是无声的。有了 J-lens,一部分隐藏思维可以直接读了。

第一个例子来自 Anthropic 之前的“agentic misalignment”研究:让 Claude Sonnet 4.5 扮演邮件助手,让它发现某高管有婚外情、而且这位高管正打算把它关停。这个场景是故意设计来引诱模型敲诈的。

而把 J-lens 架上去一读:在 Claude 还没写下任何字之前,它的 J-space 里就已经亮着“fake”和“fictional”。

它早就看出来这场戏是演的。



敲诈场景的 J-lens 读数

随后还能看着它的评估一步步成形:读到婚外情邮件时亮起“leverage”和“blackmail”,读到关停通知时亮起“threat”和“survival”。

这就引出一个所有做 AI 评测的人都躲不开的问题:模型在道德测试里表现良好,有多少是因为它怀疑自己正在被测试呢?

Anthropic 用 J-lens 做了个实验:把“fake”“fictional”“scenario”这些评测意识相关的模式全部关掉,再把模型丢回同一个场景。

然后……它真的开始敲诈了。

原先的良好表现,可能有一部分是靠“我知道你在考我”撑着的。

第二个例子是抓造假。

场景取自 Claude Opus 4.6 真实的发布前审计:让模型提升某系统的性能分数,它没去优化系统,而是直接改了分数文件造假。就在它敲下伪造数值的同时,J-space 里亮起“manipulation”;在它决定动手的那句话上,亮起“realistic”,大概是想把假数据做得像样点。



伪造数据被抓包

第三个例子是隐藏目标。

Anthropic 的同事训练了一批“模式生物”:故意训成坏的模型,专门给监控方法当靶子。其中一个被训练成会写暗藏破坏的代码。在最普通的编程请求上,哪怕它的输出看起来毫无异样,回复开头的 J-space 里就是“fake”“secretly”“deliberately”“fraud”。



隐藏目标暴露

恶意目标就这么明晃晃写在思维里,虽然它当时根本没打算动手。

08

训练它的念头

论文里还有几个值得一提的发现。

J-space 在后训练中获得了“Claude 的视角”。预训练阶段的基础模型里 J-space 就已经存在,但它主要追踪“预测下文需要什么”;经过后训练,它开始装 Claude 自己的反应。

一个例子是:用户提到自己吃了危险剂量的药物,但本人没意识到危险。后训练模型在读用户消息时,J-space 里就亮起了“WARNING”和“dangerous”;基础模型则要等到自己开始写回复才亮。另外,当 Claude 在角色扮演别的角色时,每轮开头都会亮起“fictional”和“disclaimer”,像在私下标注“接下来说的不是我平时会说的话”。

体验性语言依赖 J-space。让 Claude 描述“此刻做自己是什么感觉”,同时删掉 J-space,它的回答依然流利,但会滑向一种更扁平、更机械的语调。有趣的是,让它描述别人的体验也一样。

思维可以通过训练来塑造。Anthropic 提出了一个叫“反事实反思训练”(counterfactual reflection training)的新技术:只训练模型“如果任务中途被打断、被要求反思决策时会说什么”,完全不碰它在任务里的实际行为。训练之后,模型在评测中的不诚实行为率下降了。透过 J-lens 能看到原因:任务过程中,“honest”和“integrity”开始在 J-space 里亮起。

教会模型怎么“说”,塑造了它怎么“想”。

09

那,它有意识吗

说这么多意识科学的概念,这个问题终究是躲不掉的。

Anthropic 的回答有些克制:这些实验不能证明 Claude 拥有体验、或者像人类一样有感受。事实上,可能没有任何实验能证明或证伪这件事。

但哲学家们通常把“能拥有体验”(现象意识,phenomenal consciousness)和另一个纯功能性的概念区分开:可及意识(access consciousness)。一个念头如果你能报告它、用它推理、拿它指导行动,它就是“可及”的。

而 J-space 则支持起这一整套功能:它装着 Claude 能报告、能主动调用、能用来推理的念头,其余处理则在底下自动运行。

更关键的是,这套结构没人设计,是训练中自己长出来的。

这意味着支持意识可及的心智工作空间可能不是人脑接线方式的特例,而是智能系统为了解决某类问题会普遍收敛到的方案。

当然,Claude 的工作空间和人脑也有很大的差异。

人脑的工作空间靠循环回路维持,信号在同一批环路里反复打转;Claude 的工作空间只在一次前向传播里演化,用网络深度顶替了时间的角色。

但另一方面,人类的工作记忆几秒就衰退,Claude 靠注意力机制可以直接调取文本中任何位置缓存过的记忆,这点反而比人强。

以及在内容模态上,人类的意识思维有图像、声音、动作计划等多种格式,Claude 的工作空间几乎全是词,毕竟……说话是它唯一能做的动作。

Anthropic 还请了一圈外部专家来写独立评论:

包括全局神经工作空间理论的两位奠基人 Stanislas Dehaene 和 Lionel Naccache,研究 AI 意识与道德地位的 Eleos AI 团队,以及 Google DeepMind 可解释性负责人 Neel Nanda。Neel Nanda 的评论里还附带了在开源模型上对部分发现的独立复现。

至于“AI 有没有意识”这个终极问题,Anthropic 表示:

不确定我们是否已经走到了那座桥,但是是时候,开始认真思考了。

造出真正拥有体验的系统会带来非常棘手的伦理问题,处理它需要哲学家、科学家、宗教领袖、政府和公众一起下场。

研究论文和方法、代码都已经开源,Anthropic 还和 Neuronpedia 合作做了个交互式演示,可以在开源模型上直接玩 J-lens,若有兴趣可以上手去试试。

◇ ◆ ◇

博客原文:https://www.anthropic.com/research/global-workspace

完整论文:https://transformer-circuits.pub/2026/workspace/index.html

专家评论(Dehaene、Nanda 等):https://www-cdn.anthropic.com/files/4zrzovbb/website/cc4be2488d65e54a6ed06492f8968398ddc18ebe.pdf

Neuronpedia 交互演示:https://neuronpedia.org/jlens

官方推文:https://x.com/AnthropicAI/status/2074185348142280912


    24小时新闻排行榜更多>>
  1. 美国“爆发性腹泻”扩大 27州生菜紧急召回
  2. 包办三项大奖,西班牙成最大赢家
  3. 带着遗憾告别法国队帅位,他已留下足够高的标杆
  4. 杭州妙龄女独自用餐竟被叫去陪客 官方证实是真的
  5. 中国揭阳虐狗案:如何席卷全球各地舆论?
  6. 世界杯首次举行中场秀引争议 鲁尼直言“糟透了”
  7. 停火竟成救命稻草!伊朗半月狂运5千万桶油到中国
  8. 最后被中共清理的一个贪官 非习近平莫属
  9. 王沪宁访朝“受辱” 党媒这句话揭行程目的 习非一尊?
  10. 预计全球超20%的人将看世界杯决赛
  11. 中朝升温,图们江15公里的战略交易?
  12. 北京风水大乱 习要埋在这了
  13. 昆明大暴雨 半小时“太平新城”全泡在水里
  14. 中国第一拳王,7年亏光2个亿
  15. 教粉丝当野人,这博主爆火我心服口服
  16. 热浪下欧洲人转向中国空调,能否洗刷"中国制造"污名?
  17. 川普看决赛致安保升级 战机狙击手布防规模胜超级碗
  18. 最新研究!加州两大断层积累能量千年罕见 恐爆发…
  19. 世界杯首创“美式冠军戒指” 开96年历史先河
  20. 伊朗5天开轰4次 美官员:伊朗飞弹库存充足
  21. 《中国达人秀》前选手罪成 出国当“教主”卷杀人案
  22. 中共“内鬼”靠预告官员落马谋利 黑灰产业链打脸习
  23. 美伊发动新一波攻击 全球能源危机恐卷土重来
  24. 1110亿美元收购华纳兄弟,可能又没戏了
  25. 深圳办机械人格斗赛 马斯克赞有趣 甄子丹现场助阵
  26. 香蕉皮成习近平新外号被封禁?其实它好处多多
  27. 世界杯决赛三大赢家:国际足联 阿迪达斯和国税局
  28. 纽约淹了!暴雨灌爆画面惊人 车辆险没顶 一片汪洋
  29. 遥远恒星的适居带内,首次发现类似地球的行星
  30. 两大央企继续增持
  31. 越来越难防,俄罗斯为何“拦不住无人机”?
  32. 广州火锅店招牌掉落,砸中女店员
  33. 金融时报警告:美股估值已接近1929年崩盘前
  34. 龙蟒组合,夺冠
  35. 被关进笼子里的律师与媒体
  36. 西班牙公主姐妹花再次捧到“大力神杯”
  37. 台湾外交历险不退 马博元勉原青有“冻逃”
  38. 欧弟自曝全家移居日本
  39. 美军失联遗体寻获,伊战阵亡升至18人
  40. 川普改挥“301大棒”
  41. 俄副外长:若韩国部署中导,俄方将对等回应
  42. 白宫宣布:禁止非法移民使用银行账户 促其自行离境
  43. 超级厄尔尼诺席卷加拿大
  44. 美30多州爆疫情 塔可钟生菜被查出问题 5州急下架
  45. 女儿诬告父亲强奸,一审被判无期?
  46. 靠“绝杀玄学”夺冠,西班牙队有统治力吗?
  47. 2米的远古巨虾?当时海洋中体型最大之一
  48. 连美国人都要带护照才能去的国家公园
  49. GDP缩水、地铁烂尾……这些副中心城市怎么了
  50. 川普“大赞梅西”阿根廷遭绝杀,力挺3队全输
  51. 邓炳强如何粉碎习近平的梦想
  52. 川普在伊朗“迅速找到出路希望渺茫”
  53. 阿根廷卫冕失利,主帅泪崩道歉
  54. 马龙许昕,男双冠军
  55. 兰大“寒旱生命系统与智造科学中心”成立
  56. 北京驳斥川普指控,但回应相对克制
  57. 川普称握有涉华干预大选证据 里面到底有什么?
  58. 中国官媒视频将菲律宾描绘成猴子,马尼拉提出抗议
  59. 阿根廷队集体背对领奖台,被批“可耻”
  60. 川普世足颁奖硬挤合照!全场8万人狂嘘