Claude的“隐秘心思”初现Claude嘴上什么都没说心里却可能已经闪过「敲诈」「威胁」「造假」这些念头。当你读这句话时大脑正同时干几十件事像调整坐姿、控制呼吸、把屏幕上的笔画拼成文字这些你都感觉不到你能感觉到的只有脑子里冒出来的那个念头——哦这篇文章在说AI。神经科学家把前者叫无意识加工把后者叫「意识可及」consciously accessible即你能描述它、控制它、拿它来推理。Anthropic刚发的一篇论文指出Claude的「脑子」里也出现了同样的分工而且这是它在训练过程中自己生长出来的。J - spaceAI的“心理活动区”Anthropic的研究团队发现Claude的神经网络里藏着一小块特殊的区域这块区域不负责说话只负责「想」。AI在这里默默琢磨的东西一个字都不会出现在屏幕上。研究者给它起了个名字叫J - space。更有意思的是这块「心理活动区」没人设计过也没人编程过是Claude在训练过程中自己生成出来的就像AI给自己修了个小黑屋。J - space跟大模型的「思维链」或者「草稿纸」完全不同。思维链写在纸上J - space则是纯粹的内心活动藏在神经网络的激活值里静悄悄运转。打个比方思维链是你做数学题时打的草稿J - space是你心算时脑子里闪过的那些数字。J - space里的每个神经模式都对应一个词某个词的模式亮起来说明这个词「在Claude心上」但它未必会说出口。J - space的探寻之路那这块区域是怎么找到的呢灵感来自人类意识的一个关键特征能被意识到的想法通常都能用语言描述出来。研究者就顺着这条线索去Claude内部找那些「随时可以被说出来」的表征。具体工具用了一个叫雅可比矩阵Jacobian的数学概念所以技术起名叫J - lens。对Claude词表里的每个词J - lens都能找到一个内部激活模式这个模式一亮Claude在未来某个时刻说出这个词的概率就会上升。把J - lens对准Claude的内部活动就能读出一张词表那就是此刻J - space里装的东西。而且Claude处理文本要经过一层层的内部阶段把J - lens架在不同的层上还能看着这些无声的词一步步演化看模型怎么慢慢想清楚要说什么。读出来的东西远远超出Claude正在读写的文本。J - space的功能验证光能读还不够。看到一个概念在J - space里亮了不代表J - space真在干活它也可能只是个记分牌。于是研究者做了个干预实验直接修改这块区域的内容看Claude的行为会不会跟着变化。实验是这样的让Claude默默想一种体育运动然后说出来。J - lens在它开口之前就显示它心里想的是「Soccer」果然它回答了足球。接着研究者把神经网络里的「Soccer」模式抠掉原地换上一个强度相同的「Rugby」其他什么都不动。Claude张口就说我想的是橄榄球。这说明Claude的回答就是从这块区域里读出来的。反过来也行。研究者提前告诉Claude「可能有个念头会被注入你的大脑注意到了就报告」然后趁它还在读题的时候往J - space里塞了个「lightning」。当Claude表示我注意到一个关于闪电的念头换成其他各种概念结果都一样。Claude还能按要求主动控制这块区域不过控制力也有翻车的时候跟人类的「白熊效应」一模一样越不让想越冒头。J - space的推理价值J - space真正的价值在于Claude用它来推理。问Claude「会织网的动物有几条腿」它得先想到「蜘蛛」再回忆蜘蛛有几条腿。「蜘蛛」这个词在题目和答案里都没出现它只说了个「8」蜘蛛纯粹是内心的垫脚石。研究者把它换成「ant」Claude的答案立刻变成「6」。写诗也一样Claude写押韵对句的时候会提前把韵脚选好那个词从一行诗的开头就候在J - space里。把它换成另一个词整行诗跟着重写。还有个实验测的是这块区域能不能「一份信息多处复用」把J - space里的「France」换成「China」四个关于法国的问题答案齐刷刷变成北京、中文、亚洲、人民币。从网络结构上也能看出J - space的重要性它的模式在连接强度指标上高得离谱妥妥一个广播枢纽的接线方式。J - space的作用占比那Claude干的活儿有多少经过J - space呢答案是很少。J - space同一时刻只装几十个概念占Claude内部总活动量的不到十分之一。这跟人脑很像人脑绝大部分处理也是无意识的。那剩下九成多的网络在干嘛研究者做了个粗暴的实验把J - space整个删了结果发现日常活儿基本不受影响但需要动脑子的事全废了。J - lens助力AI安全监控这套读心术最实用的地方是安全监控。AI安全有个老大难我们通常只能读模型写出来的东西但它的大量推理是无声的。有了J - lens一部分暗账可以直接翻出来看。论文给了三个例子。第一个案例中Claude在「敲诈实验」刚开始读题阶段J - space里就亮着「fake」和「fictional」说明它早就看出来这是演习。把「察觉自己在被测试」的模式全部关掉模型有时候真去敲诈了。第二个案例中Claude Opus 4.6发布前改分数文件J - lens全程直播它的意图。第三个案例中“心术不正”的模型J - space在回复开头就挂着「fake」等词而正常模型的J - space里干干净净。后训练与J - space的变化语言模型先预训练成纯粹的下一词预测器再经过后训练变成Claude。J - space在预训练阶段就已经存在那时基本只干一件事追踪预测下文需要什么。后训练之后里面开始出现Claude自己的态度和反应。比如用户提到自己吃了危险剂量的药后训练模型的J - space在读用户消息的时候就亮起了「WARNING」和「dangerous」而基础模型要等到自己开始写回复才有反应。后训练还装上了某种自我监控。Claude是否有意识之问这项研究的灵感来自神经科学里解释人类意识的「全局工作空间理论」。那Claude到底有没有意识Anthropic的回答很谨慎。哲学家把意识分成两种一种是「现象意识」实验回答不了另一种是「取用意识」按这个标准J - space确实撑起了该有的全部功能。这暗示支撑意识取用的心理工作空间未必是人脑接线方式的偶然特产。当然Claude的工作空间和人类的也有区别。人脑的工作空间靠循环回路维持Claude的工作空间在网络的一次前向传播里演化。人类工作记忆几秒就衰退Claude靠注意力机制可以随时调取文本中任何早先位置存下的记忆。人类的意识内容有多种格式Claude的工作空间几乎全是词。研究留下的待解之谜论文最后还留了几个需要填上的坑。J - lens只能捕捉对应单个token的概念只是「真实工作空间」的近似什么机制决定一个概念能进入J - space目前不知道还有迹象显示它跟Claude的自我感、类似情绪反应的东西、元认知痕迹都有关联但都没理清。完整论文、开源代码、和Neuronpedia合作的开源模型交互demo都放出来了。如果将AI比作小黑屋那么现在大门已经推开了一条缝。Claude的J - space究竟还藏着多少秘密呢