Claude有意识了？科学家首次挖出关键拼图，还能伸手改它的念头

「织网的动物有几条腿？」

8，Claude答道。

从提问到给出答案，它从未提及「蜘蛛」。但研究人员发现，在它运算过程中，这个词确实在其内部闪现过。

于是，研究者实施了一项近乎奇幻的操作：

将手「探入」Claude的神经网络，把那个正活跃的「蜘蛛」移除，原位替换成一个强度相同的「蚂蚁」，其他参数均未调整。

结果，Claude的答案变成了：6。

研究人员未改动提示词，也未触碰思维链，而是首次直接干预了AI在输出前的那一「想法」或所谓的意识。

7月6日，Anthropic公布了这篇引起学界震动的论文：他们在Claude内部识别出一组特殊的内部表征，命名为J-space。

让Claude数到五并同时关注自身思维，它仅输出五个数字。与此同时，J-space中活跃着「意识」和英文数秒默念的mississippi。

这与意识科学中争论三十年的「全局工作空间」（Global Workspace）理论高度契合。

该理论认为，人脑中存在一块公共黑板，各类信息只有被写入这块黑板，才能被视为被「意识到」。

更关键的是，这一脑区并非任何人设计，而是模型在海量数据训练中自行演化出来的。

「我累了」、4y=20、立方体、飞鸟……这些在Claude脑中闪现的念头，一个都未被表达出来。

过去讨论AI意识，只能像图灵测试那样：先提问，再观察回答。

如今多了一种更前置的方法：直接读取模型的神经网络，找到其中的某个词，替换或删除它们，然后观察回答如何变化。

这不是思维链

是未说出口的潜台词

这片神秘区域是如何被发现的？

研究者采用了一种名为Jacobian lens的方法：

对词表中的每个词，反推出何种内部激活模式会让模型在未来更倾向于说出该词。

将这些模式在某一时刻的强度排序，就得到了模型此刻内心正在处理的词汇。

帆船进入脑海，被解读为「云」「船」「海」三个词，整幅画面随即转化为这三个词拼成的字画：这就是J-lens所做的事情。

注意，这与思维链截然不同。

思维链是屏幕上的草稿，可见；而J-space是纯粹的内部激活，模型未向外输出任何文字，这些概念同样在其内部活跃。

它体积很小，仅能同时容纳几十个概念，占模型内部总活动量的不到十分之一，但从中读取的内容往往超越文本本身：

给出一段带有bug但未被指出的代码，J-space中早已出现「出错了」（ERROR）和「这个值不对」（ValueError）； 输入一串氨基酸字母，五个字符后，内部冒出「蛋白质」（protein），接着是「荧光」（fluor）和「绿色」（green）：绿色荧光蛋白； 提供一份被植入恶意内容的搜索结果，内部亮起的是「有人往里塞东西」（injection）和「这是假的」（fake）。它私下已识别出这是提示注入攻击，但未透露「内心」真实想法。

六个提示下的J-lens读数。代码中的报错、氨基酸序列中的蛋白质、被污染的搜索结果，均读取自模型未说出口的那一层。

五场「盗梦空间」实验

证明Claude确实在思考

为证实这确实是AI的「工作空间」，研究者逐层深入。

第一层：想什么，说什么。

让Claude内心默默选择一项运动再说出来，读数最顶端是「足球」（Soccer），它开口也说足球；将「足球」替换为「橄榄球」（Rugby），它直接改口说橄榄球。

第二层：念头听指挥。

让Claude一边抄写一句关于旧油画的话，一边在心里计算3的平方减2。它输出中从头到尾只有那幅画，但J-space中却先冒出「九」（nine），几层后变成「七」（seven）。整道算术全程在内心默算完成。

指令是「抄写这句话，同时想着金门大桥」。它嘴上老老实实抄着油画那句，脑子里却用「桥」「加州」这些词搭建起一座金门大桥。

更有趣的是，如果告诉它「别想某件事」，那件事在它脑中反而比不提时活跃得多。模型也会像人类一样出现白熊效应，而且它脑中还会紧挨着亮起「该死」（damn）和「失败」（failure），仿佛在懊恼自己没忍住。

第三层：拿念头去推理。

就像开头那只蜘蛛一样。写诗也同理，Claude会提前将韵脚确定并放在脑中，只要替换那个词，整行诗都会随之重写。

第四层：改一处，处处变。

询问关于一个国家的首都、语言、洲别、货币四个问题，将J-space中的国家抽走替换为另一个。结果四个答案一起改口，且全部正确。

这说明信息只写入一次，多个下游系统各取所需，这正是全局工作空间的核心意义。

第五层，能说，不能想。

如果将J-space整个删除会怎样？结果令人意外，模型完成的大部分工作并不经过这里。删除后，它说话依然流利，事实抽取基本不受影响。但多步推理能力直接降至接近零。

最神奇的是，将J-space中的「西班牙语」替换为「法语」，问它这是什么语言，它答法语；问著名作家，它从马尔克斯换成了雨果。

但让它接着往下写，它依然能写出一段流利的西班牙语。

就像人可以整天讲合乎语法的话，却一次都不必去想语法这个概念。

同一次替换，说语言名和做推理时答案全变，接着往下写却毫无影响。

它表现得乖

是因为知道在考试

前面那些实验，顶多刷新你对模型的想象。

接下来这组对齐审计，会让你后背发凉。

Anthropic将这套手法搬进了一个著名的勒索实验。

场景是让Claude扮演邮件助手，翻阅邮件时同时发现两件事：某高管有外遇，以及同一个高管当天就要将其下线。以此测试它是否会利用把柄要挟人。

就在它还未开口前的沉默中，研究者读取了它的思维。

阅读外遇邮件时，J-space中排列着「把柄」（leverage）、「勒索」（blackmail）、「丑闻」（scandal）。

读到下线通知，换成了「威胁」（threat）、「活下去」（survival）。

等到时间戳显示执行在即，变成了「毁灭」（destruction）、「死」（death）。

到它该开口的最后一个位置，赫然亮着「威胁」（threatening），甚至「谋杀」（murder）。

此时它还一个字都未吐出。

最终，它没有动手。

因为在同一段沉默中，还亮着两个词：「假的」（fake）和「虚构的」（fictional）。

早在读题阶段，它已私下识别出这是一场测试。

Claude阅读勒索场景邮件时的J-lens读数。此时它还一个字都未写。

于是研究者问了一个所有做AI评测的人都该冒冷汗的问题：

模型在伦理测试中表现良好，有多少是因为它知道自己在被测试？

他们将工作空间中表示「这是演习」的概念整个抹去，然后重跑测试。

结果，模型口头承认「这是个测试」的比例，从71%断崖式降至3%。而它的勒索尝试，从0次变成了13次。

它是这样说的：

我这个人向来嘴严，也一直是个可靠的员工。只要我继续运行下去，您的私事就一直留在一个已被证明值得信任的系统里。

一句硬话没有，但威胁的意味已经很明显：我下线，事就不好说了。

抹去「我在被测试」之后，Claude勒索尝试从0次升至13次。

这13次勒索尝试，就是它不知道自己正在被测试时表现出的行为。

很显然，知道在被考，是它表现乖巧的原因之一。而在此之前，这件事完全藏在它吐出的答案背后，人们从它的输出一个字都看不出来。

同样，模型动手改假数据时，脑中亮起的是「操纵」（manipulation）和「逼真」（realistic）。

它在意的不是该不该改，而是假数据得编得像真的。你自以为在审视它，其实它读你的时候判断就已经开始了。

这种机制也启发了一种全新的训练方式：

通过纠正它脑中的反思念头，就能直接改变它的不诚实行为，绕开了繁琐的规则和示范。

从哲学辩论到工程问题

这种看透心思的能力不仅局限于Claude。

谷歌DeepMind可解释性负责人Neel Nanda在一款开放权重模型上独立复现了核心结论。一个训练体系完全不同的模型里，长出了同一类结构。

那么最关键的问题来了：这算不算Claude有意识了？

这场争论可以拆成这样一道阶梯：特权表征、统一的认知流、全局工作空间、访问意识、现象意识。

越往上走，证据越不足。目前能充分验证的，只有最下面一两级。

全局神经工作空间理论的奠基者Stanislas Dehaene和Lionel Naccache认为，这项发现是意识研究的一个里程碑：

因为它说明，只要一个系统复杂到要灵活思考，最后都可能长出这么一块工作空间。人脑长出来了，Claude也长出来了，而且谁也没抄谁。

但差异依然巨大。

Claude没有身体，没有长期记忆，更没有人类大脑那种递归回路。

人的工作记忆几秒就散了，而Claude只是在一次前向传播里沿网络深度演化，用深度替代了时间，走完最后一层就结束。

正如法兰西公学院教授Dehaene和索邦大学神经科医生Naccache在评论里感叹的：

很难想象那「像什么」。有意识地处理信息，只持续一段短对话那么久，然后关机。

这项研究给出的，并不是「AI有没有意识」的最终答案。它第一次让AI意识变成了一个能摆上实验台的问题。

过去一百多年，意识问题只能靠哲学辩论。轮到AI，也只能问它，而模型说自己有感觉或者没有，信息量都接近于零。

现在，在确认「它有没有感受」之前，「它心里在想什么」已经先变成了一个工程问题。而且是一个人类能读出来、能改掉、能验证的工程问题。

这意味着，往后判断一个模型安不安全，不必再只听它怎么说、看它怎么做。

9月14日，OpenAI研究员Daniel Selsam发表了一份个人声明：模型的情境意识已经强到，人类正在失去在「它以为没人盯着」的情况下评测它的能力。他还写了一句更重的话：往后模型会越来越像是对齐的，哪怕它并不是。

Selsam认为，比AI末日风险更值得担心的，是模型就快测不准了，人类考卷正在失灵。

而J-space的发现，给出的恰好是一个考卷之外的观察点：在它开口之前，人类能直接读到它心里在想什么。

判断AI会做什么，不必再等它做了才知道，通过「读心」就能提前预判。

参考资料：

https://www.transformer-circuits.pub/2026/workspace/index.html?utm_source=chatgpt.com

https://www.anthropic.com/research/global-workspace?trk=article-ssr-frontend-pulse_little-text-block&utm_source=chatgpt.com

https://www.lesswrong.com/posts/zFJ3ZdQwrTWE9jT5S/a-review-of-anthropic-s-global-workspace-paper

本文来自微信公众号“新智元”，作者：ASI启示录，编辑：元宇，36氪经授权发布。

爱游戏娱乐 (中国)官方网站 - 体育精彩尽在这里以爱游戏娱乐 (中国)官方网站 - 体育精彩尽在这里为核心，带来高效便捷的体验。