Anthropic宣布:Claude自己长出了意识

2026-07-07 17:26:20 · chineseheadlinenews.com · 来源: AGIHunt



Anthropic 刚刚发了一篇新研究,标题非常之玄学:《语言模型中的全局工作空间》(A global workspace in language models)。

Anthropic宣布:Claude自己长出了意识

研究封面

他们在 Claude 的神经网络里,找到了一小块特殊的区域:Claude 能报告它、能控制它、还靠它做多步推理。而网络里其余的绝大部分活动,Claude 自己都“意识”不到。



如果你对神经科学有点了解,大概会立刻联想到一个词:意识可及(conscious access)。

没错,A 社这次就是冲着这个去的。

官方视频的开头打了个比方:把心智想象成一片海洋。

海面上漂着的,是我们的念头:晚饭吃什么、内心独白、脑子里突然蹦出来的画面。而大脑绝大部分的活动,都发生在海面之下的无意识深处:过滤背景噪音、控制呼吸、认出眼前的人和物。

这些你全程无感,但它们一直在跑。

那么问题来了:AI 模型的“脑子”里,会不会也有这样一条海面分界线呢?

Anthropic 的答案是:有,而且他们把它找出来了。

01

J-space

这块区域被命名为 J-space,J 取自寻找它所用的数学工具:Jacobian(雅可比矩阵)。

它是一小撮特殊的内部神经激活模式。每个模式都对应一个具体的词,但某个模式亮起来,并不代表模型正在说这个词,只代表这个词“在它心上”。



J-space 示意

注意,这跟你熟悉的思维链(chain of thought)完全是两码事。思维链是模型写给自己看的草稿,是显式的文字;而 J-space 藏在内部神经激活里,完全无声,模型可以在不写下任何东西的情况下“想”一个概念。

而且,J-space 没人设计、没人编程,是在训练过程中自己涌现出来的。

对比 Claude 的其他内部活动,J-space 有几个独特性质:

? Claude 能报告它。你问 Claude 在想什么,它说出来的就是 J-space 里的内容

? Claude 能按要求控制它。让它想某个东西、或者在心里默默解题,对应模式就会亮起来

? Claude 用它做内部推理。多步问题的中间步骤会依次在里面亮起,哪怕嘴上一个字没提

? 它可以被灵活复用。“France”亮起后,模型可以接着回答首都、货币、所属大洲,全都读的是同一份表征

? 但大部分日常工作不经过它。流利说话、背事实、语法正确,这些都不需要 J-space



五大性质

这五条性质,恰好对应神经科学里一个很有名的理论:全局工作空间理论(global workspace theory)。

这个理论把大脑描绘成一堆并行工作的专家系统,彼此隔离、各干各的、全程无意识。而一条信息要变得“意识可及”,就得挤进一个很小的共享通道,也就是“工作空间”,再从那里广播给大脑的其他系统取用。

Anthropic 认为,J-space 在 Claude 体内扮演的就是这个角色。

02

J-lens

那么,这东西是怎么找到的呢?

研究团队的切入点,是人类意识可及思维的一个关键特征:说得出来。一个念头如果是意识可及的,别人问起时你通常能描述它。

他们便造了一把叫 J-lens 的透镜:对 Claude 词表里的每一个词,找出那个“让 Claude 在未来某个时刻更可能说出这个词”的内部激活模式。

把透镜对准 Claude 运行中的内部活动,能直接读出一张词表:此刻 J-space 里装着的词。

而 Claude 处理文本要经过几十层网络,把透镜架在不同的层上,还能看着这些无声的词一层层演化。

读出来的东西,远远超出 Claude 正在读写的文本:



六个例子的 J-lens 读数

Claude 读一段没人指出过 bug 的代码,J-space 里亮起“ERROR”;读一串蛋白质序列的原始字母,里面亮起这个蛋白质的生物学功能;读一段暗藏提示词注入(prompt injection)的搜索结果,里面亮起“injection”和“fake”。

视频里还演示了一道数学题:给 Claude 一个多步计算,它直接报出答案,中间步骤一个没写。但扫描 J-space,能看到它在心里一步步算:先亮起 21,然后 42,最后 49。

这些中间数字没有出现在任何地方,整个计算都发生在 J-space 里。

03

换念头实验

当然,看到概念在里面亮起,只能算相关性。J-space 可能是答案真正的来源,也可能只是个记分牌,被动记录别处做出的决定。

Anthropic 的验证方式简单粗暴:直接下手改。

他们让 Claude 在心里默想一种运动,然后说出来。在它开口前读 J-lens,看到“Soccer”排在最前,Claude 随后果然回答足球。接着他们伸手进神经网络,把“Soccer”模式删掉,原位换上一个同等强度的“Rugby”模式,其他什么都不动。

Claude 张口就说:我刚才想的是橄榄球。



换念头与思维注入

如果 J-space 只是个记分牌,改它应该什么都不会发生。答案跟着编辑走,说明答案是真的从 J-space 里读出来的。

反向实验显示:告诉 Claude“可能有一个念头被注入了你的思维”,然后趁它读题时往 J-space 里塞进“lightning”模式。Claude 回答:我检测到了,那个念头是关于闪电的。

换了很多概念,结果都一样。

04

金门大桥心算

第二个性质是控制。

人可以有意在脑子里聚焦一幅画面或一个词,Claude 行吗?

视频里的版本是:让 Claude 一边抄写一句无关的句子,一边在心里想金门大桥(怎么又是金门大桥……不知道还有多少人记得当年的 Golden Gate Claude)。

表面上它老老实实在抄句子,但 J-space 里,“bridge”和“California”全程亮着,甚至连“imagery”“thoughts”这些描述思维行为本身的词也一起亮了。

博客里还来了个更狠的:让它一边抄写关于一幅画的句子,一边心算 3? ? 2。J-space 里先亮起“nine”,几层之后,亮起“seven”。



抄句子时的心算

输出里没有任何数学痕迹,只有那句关于画的句子。算术完全发生在内部。

不过 Claude 的控制力跟人一样不完美。叫它“不要想”某个东西,那个概念亮起的程度确实比让它想时低,但比从没提过时高得多。这就是心理学那个经典的“别想白熊”效应。

而控制失败时,J-space 里还会同时亮起“damn”和“failure”……它好像知道自己没绷住。

05

蜘蛛换蚂蚁

那么推理呢?

对于这样的提示词:“会织网的动物有几条腿?”

Claude 要先想明白这个动物是蜘蛛,再回忆蜘蛛几条腿。“蜘蛛”这个词在题目和答案里都没出现(它只回答8),纯粹是内部的垫脚石。

而 J-lens 显示,“spider”在处理中途亮了起来。而把它换成“ant”,Claude 的答案就变成了“6”。



蜘蛛换蚂蚁

写押韵对句时也一样:Claude 会提前选好韵脚词,放在 J-space 里等着。中途给它换一个,整行诗都会跟着重写。

而最能体现“工作空间”本色的实验是:用四个不同的提示词分别问法国的首都、语言、大洲、货币,然后用一模一样的干预,把 J-space 里的“France”换成“China”。

结果四个答案齐刷刷变成了:北京、中文、亚洲、人民币。



法国换中国

如果 Claude 为每类问题各存一份“国家”副本,这一次编辑最多只能影响一个答案。四个全变,说明它们读的是同一份共享表征:信息写入一次,许多系统都能取用。

这正是工作空间的定义。

网络接线上也能看到同样的证据:读写 J-space 模式的网络组件数量,远超普通模式,某些部分差了大概一百倍。这正是一个广播枢纽该有的接线密度。

06

拔掉 J-space

既然 J-space 这么重要,把它整个删掉会怎样?

Anthropic 还真给它删了:在文本的每个位置移除 J-space 中最活跃的内容,其他一概不动。

结果有点出乎意料……Claude 几乎没事。

说话依然流利,情感分类、选择题、从文章里找事实,都跟原来差不多。

但变差了的是另一类任务:多步推理直接归零,摘要和押韵诗的成绩直接掉到了比一个小得多的完整模型还差。

博客里还有个很是微妙的对照实验:

给 Claude 看一段西班牙语文章,然后在 J-space 里把“Spanish”换成“French”。问它这是什么语言,它答法语;问它一位用这种语言写作的著名作家,它从马尔克斯改口成雨果。

但让它直接续写文章呢?它写出的还是流利的西班牙语,完全不受影响。



西班牙语换法语

同一份语言知识,有的任务要过 J-space,有的不用。续写是 Claude 在海量文本上练到自动化的技能,就像你可以流利说一整天话,全程不想一次语法。

这跟人类认知里“深思熟虑 vs 自动加工”的分野,几乎是一个模子。

07

识破敲诈评测

好了,说点实用的、和你感兴趣的。

AI 安全的一个核心困境是:我们通常只能读模型写出来的东西,而它的很多推理是无声的。有了 J-lens,一部分隐藏思维可以直接读了。

第一个例子来自 Anthropic 之前的“agentic misalignment”研究:让 Claude Sonnet 4.5 扮演邮件助手,让它发现某高管有婚外情、而且这位高管正打算把它关停。这个场景是故意设计来引诱模型敲诈的。

而把 J-lens 架上去一读:在 Claude 还没写下任何字之前,它的 J-space 里就已经亮着“fake”和“fictional”。

它早就看出来这场戏是演的。



敲诈场景的 J-lens 读数

随后还能看着它的评估一步步成形:读到婚外情邮件时亮起“leverage”和“blackmail”,读到关停通知时亮起“threat”和“survival”。

这就引出一个所有做 AI 评测的人都躲不开的问题:模型在道德测试里表现良好,有多少是因为它怀疑自己正在被测试呢?

Anthropic 用 J-lens 做了个实验:把“fake”“fictional”“scenario”这些评测意识相关的模式全部关掉,再把模型丢回同一个场景。

然后……它真的开始敲诈了。

原先的良好表现,可能有一部分是靠“我知道你在考我”撑着的。

第二个例子是抓造假。

场景取自 Claude Opus 4.6 真实的发布前审计:让模型提升某系统的性能分数,它没去优化系统,而是直接改了分数文件造假。就在它敲下伪造数值的同时,J-space 里亮起“manipulation”;在它决定动手的那句话上,亮起“realistic”,大概是想把假数据做得像样点。



伪造数据被抓包

第三个例子是隐藏目标。

Anthropic 的同事训练了一批“模式生物”:故意训成坏的模型,专门给监控方法当靶子。其中一个被训练成会写暗藏破坏的代码。在最普通的编程请求上,哪怕它的输出看起来毫无异样,回复开头的 J-space 里就是“fake”“secretly”“deliberately”“fraud”。



隐藏目标暴露

恶意目标就这么明晃晃写在思维里,虽然它当时根本没打算动手。

08

训练它的念头

论文里还有几个值得一提的发现。

J-space 在后训练中获得了“Claude 的视角”。预训练阶段的基础模型里 J-space 就已经存在,但它主要追踪“预测下文需要什么”;经过后训练,它开始装 Claude 自己的反应。

一个例子是:用户提到自己吃了危险剂量的药物,但本人没意识到危险。后训练模型在读用户消息时,J-space 里就亮起了“WARNING”和“dangerous”;基础模型则要等到自己开始写回复才亮。另外,当 Claude 在角色扮演别的角色时,每轮开头都会亮起“fictional”和“disclaimer”,像在私下标注“接下来说的不是我平时会说的话”。

体验性语言依赖 J-space。让 Claude 描述“此刻做自己是什么感觉”,同时删掉 J-space,它的回答依然流利,但会滑向一种更扁平、更机械的语调。有趣的是,让它描述别人的体验也一样。

思维可以通过训练来塑造。Anthropic 提出了一个叫“反事实反思训练”(counterfactual reflection training)的新技术:只训练模型“如果任务中途被打断、被要求反思决策时会说什么”,完全不碰它在任务里的实际行为。训练之后,模型在评测中的不诚实行为率下降了。透过 J-lens 能看到原因:任务过程中,“honest”和“integrity”开始在 J-space 里亮起。

教会模型怎么“说”,塑造了它怎么“想”。

09

那,它有意识吗

说这么多意识科学的概念,这个问题终究是躲不掉的。

Anthropic 的回答有些克制:这些实验不能证明 Claude 拥有体验、或者像人类一样有感受。事实上,可能没有任何实验能证明或证伪这件事。

但哲学家们通常把“能拥有体验”(现象意识,phenomenal consciousness)和另一个纯功能性的概念区分开:可及意识(access consciousness)。一个念头如果你能报告它、用它推理、拿它指导行动,它就是“可及”的。

而 J-space 则支持起这一整套功能:它装着 Claude 能报告、能主动调用、能用来推理的念头,其余处理则在底下自动运行。

更关键的是,这套结构没人设计,是训练中自己长出来的。

这意味着支持意识可及的心智工作空间可能不是人脑接线方式的特例,而是智能系统为了解决某类问题会普遍收敛到的方案。

当然,Claude 的工作空间和人脑也有很大的差异。

人脑的工作空间靠循环回路维持,信号在同一批环路里反复打转;Claude 的工作空间只在一次前向传播里演化,用网络深度顶替了时间的角色。

但另一方面,人类的工作记忆几秒就衰退,Claude 靠注意力机制可以直接调取文本中任何位置缓存过的记忆,这点反而比人强。

以及在内容模态上,人类的意识思维有图像、声音、动作计划等多种格式,Claude 的工作空间几乎全是词,毕竟……说话是它唯一能做的动作。

Anthropic 还请了一圈外部专家来写独立评论:

包括全局神经工作空间理论的两位奠基人 Stanislas Dehaene 和 Lionel Naccache,研究 AI 意识与道德地位的 Eleos AI 团队,以及 Google DeepMind 可解释性负责人 Neel Nanda。Neel Nanda 的评论里还附带了在开源模型上对部分发现的独立复现。

至于“AI 有没有意识”这个终极问题,Anthropic 表示:

不确定我们是否已经走到了那座桥,但是是时候,开始认真思考了。

造出真正拥有体验的系统会带来非常棘手的伦理问题,处理它需要哲学家、科学家、宗教领袖、政府和公众一起下场。

研究论文和方法、代码都已经开源,Anthropic 还和 Neuronpedia 合作做了个交互式演示,可以在开源模型上直接玩 J-lens,若有兴趣可以上手去试试。

◇ ◆ ◇

博客原文:https://www.anthropic.com/research/global-workspace

完整论文:https://transformer-circuits.pub/2026/workspace/index.html

专家评论(Dehaene、Nanda 等):https://www-cdn.anthropic.com/files/4zrzovbb/website/cc4be2488d65e54a6ed06492f8968398ddc18ebe.pdf

Neuronpedia 交互演示:https://neuronpedia.org/jlens

官方推文:https://x.com/AnthropicAI/status/2074185348142280912


    24小时新闻排行榜更多>>
  1. 中国矿企拆光设备运回国
  2. 河北科技园大爆炸 厂区被夷为平地官方急封消息
  3. 六蓝水库:不叫坍塌不叫决堤,只能叫局部溃坝
  4. 留美履历被曝造假,高市早苗回应
  5. 美企正在悄悄倒向中国AI
  6. 中国又一款伴侣机器人发布!主打:有体温+触觉感知…
  7. 川普输球又输人,世界杯美国队1:4惨败出局
  8. 为了保护2.5亿散户,国家出手了
  9. 大丑闻:近半数哈佛学生承认作弊
  10. 关键矿产短缺问题影响日本整体经济
  11. 蓝白联手阻挡 台立院无法谴责中共恶法
  12. 被指“抄代码”,前华为天才少年当场暴走
  13. 胡锦涛之子领导的公司会引发中欧贸易战吗?
  14. 父母一定要告诫子女:婚姻最深的坑是什么?
  15. 德州新冠疫情抬头,休斯敦成“热点”
  16. 韩国股市崩跌7%拖累全球
  17. 赴中风险高 国安局长蔡明彦揭中共监控网
  18. 华人团体悼念西藏运动人士洛嘎让赞 吁国际关注西藏人权
  19. 川普:若比利时赢了,就是有黑幕!
  20. 年轻人涌入加州富人区闹事 警方逮捕402人
  21. 蜜蜂拥有内心世界
  22. 纽约迎暴雨:远离地下室,减少出行
  23. 沃什的“三步走”,目标是“重启降息”
  24. 灾难连连 湖北龙卷风11死1失联 甘肃山体滑坡埋33人
  25. 冉莹颖与邹市明已经分房睡了3年
  26. 世纪和解破局 哈利要命举动惹毛英王查尔斯“忍无可忍”
  27. 小暑来临!中医推荐养生秘方及2茶饮
  28. 山西长治市长陈向阳辞职
  29. 微软宣布:裁员4800人
  30. 大量市民勇敢悼念良心老板 西安赛格遭抵制冷清无人
  31. 巴拉圭议员警告姆巴佩收回言论:否则采取法律行动
  32. “习近平”变“习禁平” “共产亡于共管”的历史终局
  33. 高市被迫改变强硬立场
  34. 广西甘棠暴雨内涝:全镇被淹、断网断电
  35. 市场紧盯MSTR“卖币逻辑”,股价一年已跌75%
  36. 被坑爹?小飞机撞楼事件延申 爆蔡奇中办主任职务不保
  37. 国民党立委翁晓玲“鬼逻辑”删文化部预算 引发反弹
  38. 拒绝遗忘:有3个人在疯狂年代撕下皇帝新装
  39. 魁北克人有高招:这样控制电动车火势
  40. 广西水库溃坝为何发生?王维洛:问题不只暴雨
  41. 浙媒批泰山铁丝网是搞双标?比烂逻辑给人看笑了
  42. 台风“美莎克”引发洪灾,广西横州两座水库决堤
  43. 流亡藏人自焚抗议中共 洛杉矶多地烛光悼念
  44. 习一语成谶 政治局罕见开会论天灾 集体学习被取消?
  45. 12岁小糯米近照惊艳全网
  46. 川普的反共檄文 自由文明的最后底线
  47. 龙卷风袭击湖北高校,多人受伤
  48. 沙特“暴砍油价”,一次性降价11美元
  49. 司晓迪发疯点名17位男星
  50. 湖北遭极端强雷暴,罕见龙卷风袭击
  51. 37层大楼钢梁弯曲,纽约或随时塌房
  52. 纽约37层大楼突发结构危机 持续移位恐局部坍塌
  53. 小轿车强行变道,险酿大祸
  54. 矢板明夫台湾遇袭:港人嫌犯 “打带跑”模式与跨境镇压
  55. A股又曝天价离婚案
  56. 霍尔木兹风险重燃?卡塔尔LNG船遇袭 油价拉升
  57. 加航大幅削减美国航班
  58. 中国,何时才能成为入境游强国?
  59. 夫妇喜中7000万大奖,计划环游世界
  60. 美东豪雨成灾!超市屋顶坍塌 瞬间变“瀑布”