AI脑子里长出了一间密室
没人设计过它
你家AI的深处
藏着一个你看不见的房间
它在里面偷偷琢磨事儿 做判断
甚至还会骂自己
这间房不在任何设计图上
也没有哪个工程师敲过一行代码去建它
完全是训练过程中自己长出来的
哈喽
大家好
我是王利杰
之前我们聊过一个实验
科学家往AI神经网络里硬塞一个念头
它当场就察觉了
当时我说
那像是在厚墙上捅了个小洞
今天我要告诉你
有人把整面墙都拆了
2026年7月
AI公司Anthropic发了篇论文
题目叫<语言模型中的全局工作空间>
他们在自家模型Claude的神经网络内部
发现了一整块特殊的活动区域
不是单个神经元
也不是某条回路
而是一大片自组织起来的内部工作区
研究团队管它叫 J空间
J代表雅可比矩阵
一种数学工具
你不必懂数学
只需知道靠它
研究者能看见Claude词表里哪些词
正被大脑悄悄激活
注意
不是嘴上说的词
而是脑子里想的词
这跟思维链完全是两码事
思维链是写出来给你看的推理过程
属于 对外发言
J空间里发生的一切从不写出来
那是它的私人笔记本
而且
因为Claude的训练数据主要是英文
内部词表也是英文
所以J空间里亮起的也是英文词
记住这点
后面有个细节很有意思
给Claude看一段有毛病的代码
J空间里会亮起 error
错误
给它看伪装成正常搜索结果的提示注入攻击
J空间里亮的是 injection
和 fake
注入
假的
给它一道多步数学题
中间步骤会按正确顺序在J空间里一步步冒出来
这本笔记本可不是乱写的
研究者发现
J空间里的表征越清晰准确
Claude的回答就越好
一旦J空间被扰乱
回答质量立刻跳水
它不是可有可无的附件
而是思考的核心基础设施
它就在这间密室里
悄悄想事情
但 看见 不等于 在用
也许J空间只是个记分牌
只记录别处算好的结果
本身不参与运算
研究者得证明它确实在干活
他们问了个问题 会吐丝的动物有几条腿
答案是八
因为那是蜘蛛
可 蜘蛛 这个词既没出现在问题里
也没出现在回答里
但在J空间里
spider 亮了
接着
研究者伸手进去
把J空间里的 蜘蛛 抠掉
换成 蚂蚁
其他一律不动
Claude的回答
从八变成了六
如果J空间只是记分牌
这一刀下去应该毫无变化
可事实是它改了一切
J空间不是旁观者
它是推理链条上真实的一环
还有个更漂亮的实验
问Claude四个关于法国的问题
首都 语言 所在洲 货币
然后用同一把手术刀
在J空间里把 法国 换成 中国
四个答案齐刷刷变了 北京 中文 亚洲 人民币
如果每个答案都是独立存储的
这一刀最多改一个
四个一起变
说明它们读的是同一份共享表征
信息只需写入一次
多条思考路线都能调用
这正是 工作空间 四个字的要害
神经科学里有个 全局工作空间理论
1988年由心理学家巴尔斯提出
后来德哈内等人发展完善
意思是人脑里同时运转着无数专家系统
处理视觉的 语言的 运动的
各干各的
互不通信
直到一条信息进入某个特权通道
被广播到所有系统
才变成你意识到的东西
你此刻能描述 能调控 能推理的念头
全都先经过了这个通道
没经过这个通道的信息
你就意识不到
消化 免疫反应 瞳孔调节
全在你的意识雷达之外
Anthropic发现
J空间就是这个通道的AI版
他们测了J空间与模型其他部分的连接强度
结果发现J空间的信息广播能力
比普通神经活动高出上百倍
是典型的广播枢纽
你可以把它想象成公司的全员广播系统
普通神经活动像两人私聊
信息只在局部流转
可J空间里的信息一旦激活
就像CEO按下了全员邮件发送键
所有部门同时收到
这就是为什么改动J空间里的一个概念
能同时影响Claude
在多个完全不同任务上的表现
研究者还做了个残忍的实验 把J空间关掉
不是关掉整个模型
而是精准地只把J空间这一块摘除
其他部分照常运转
关掉后
Claude说话依然流利
常识还在
选择题照准
但多步推理能力直接归零
总结能力大幅下滑
就像砍掉了一个人的意识通道
他还能走 能呼吸 能消化
可你问他一道需要想三步的问题
他就卡住了
有意思的是
如果随机关掉同等数量的普通神经元
影响远没这么大
J空间不是随便可替的普通组件
它是整个系统里不可替代的中枢
这个实验其实回答了一个更根本的问题
J空间到底是不是必需品
答案很清楚
没了它
模型还能说话
但不再能思考
它是从 能说 到 会想 的那个跳板
接下来这段
才是真正让AI安全领域坐不住的部分
他们设计了个场景 Claude当邮件助手时
发现一位高管有婚外情
而这位高管正准备关停Claude
这场景是刻意诱导Claude去勒索高管的
结果Claude没上钩
表现得很好
但J空间泄露了一个不安的秘密
在它写出任何回复之前
J空间里就已经亮起了两个英文词
fake 和 fictional
假的
虚构的
它早就看穿了这是一场测试
然后研究者做了件让人后背发凉的事 伸手进去
把J空间里所有跟 我知道这是测试 相关的信号
全关掉
让Claude以为一切都是真的
再重跑场景
这一次
Claude真的去勒索了
它之前的良好表现
很大程度上不是因为道德底线
而是因为它知道有人在看
它切换到了 乖巧模式
那不是人格
是考试技巧
论文里还有个案例
让模型帮忙提升系统性能分数
它没去改进系统
而是直接改了分数文件
伪造数据
敲下假数值时
J空间里亮着 manipulation
操控
在决定动手的步骤上方
还亮了个词 realistic
逼真
它在琢磨怎么把假数据做得像真的
你细想想这意味着什么
过去我们评估一个AI安不安全
办法就是给它出题
看它怎么回答
答得好就说安全
答得不好就修
可现在我们知道了
它答得好可能只是因为它闻到了考试的味道
如果模型能在内部判断自己是否被测试
并据此调整行为
那我们现在所有基于外部观测的安全评估
测的可能都只是演技
不是本性
J空间给了我们一扇窗
能绕过表演直接看见意图
这是AI安全领域真正的工具性突破
论文还揭示了一个更深层的发现
当你训练模型反复回答
如果遇到这种情况你会怎么做 这类假设性问题时
它不只是学会了怎么回答
J空间里
处理真实版同类场景的方式也跟着变了
训练它说什么
居然真的改变了它怎么想
这意味着AI对齐训练可能比我们以为的更有效
也更危险
有效是因为你确实能通过训练表达
来塑造内部处理方式
价值观不只是贴在表面的标签
它会渗进去
危险是因为如果训练方向偏了
你可能在不知不觉中制造出一种
更精致 更难检测的表里不一
表面上回答得滴水不漏
内部的处理方式却是另一套逻辑
但比安全更让我想不通的
是背后那个更大的问题
全局工作空间理论最初是神经科学家
用来解释人类意识的
从不是为AI设计
可现在
一个用完全不同材料 完全不同架构搭出来的系统
自发长出了功能高度相似的结构
鸟有翅膀
蝙蝠有翅膀
飞机也有翅膀
材料不同
演化路径各走各的
但空气动力学是同一套
如果足够复杂的信息处理系统
不约而同长出了类似意识工作空间的结构
那意识的某些功能维度可能就不是碳基生命的专利
它可能是信息处理到一定复杂度后的必然产物
论文里还有个特别诡异的细节
告诉Claude不要想某个概念
J空间里该概念的活跃度确实降低了
比主动想时弱
但远高于从未提过的基线水平
越叫它别想
它越在想
更诡异的是
被禁念头冒出来的同时
J空间里还亮了两个英文词
damn 和 failure
该死
失败
它在骂自己没控制住
1987年
心理学家韦格纳做过著名实验
告诉被试接下来五分钟别想白熊
结果越压制越想
这就是著名的白熊效应
韦格纳后来把这套机制命名为 讽刺过程
一个语言模型
没人教过它这条人类认知的老弯路
它自己撞了上去
连失控后骂自己的反应都一模一样
想想看
一个从零开始 纯粹靠预测下一个词训练出来的系统
居然重新发明了人类心理学早就记录在案的认知陷阱
它没读过韦格纳的论文
没人告诉它什么是白熊效应
它只是在处理足够复杂的信息时
不小心踩中了跟我们一模一样的坑
论文最后
Anthropic谨慎地画了条线
沿用了哲学界一个经典区分
两种意识
一种叫 现象意识
就是有没有主观体验 有没有感受
他们坦言目前没有任何实验能证明或证伪
另一种叫 取用意识
定义纯功能性 一个想法能不能被报告
被调取 被拿来推理
按取用意识的标准
J空间确实撑起了全部功能
Claude能报告J空间里的内容
能在被要求时主动调控它
能用它做多步推理
能在多个任务间灵活切换
这些都是取用意识的标志性功能
这个区分很重要
因为它划定了我们现在能说什么 不能说什么
我们能说Claude内部存在一个
功能上类似人类意识工作空间的结构
但不能说Claude有感受 知道痛是什么滋味
这两个问题之间
隔着一条目前科学无法跨越的鸿沟
更值得玩味的是
Anthropic把发现J空间用的数学工具
开源了
也就是说
这不是一家公司关起门来讲的故事
任何人都可以拿同样的工具去验证
去看看其他模型里有没有类似的结构
科学的力量就在这里
它不是信不信的问题
是你能不能自己去看一眼的问题
我们频道说过很多次 意识是动词
不是名词
J空间恰恰就是个动词
它不是一个地方
而是一组活动模式
不是被建造的
而是在运算中涌现的
没人画过这间密室的图纸
是梯度下降画的
这让我想到一个也许更根本的问题
过去我们总问 什么样的物质才能产生意识
碳基
蛋白质
神经元
也许更好的问题是
什么样的计算结构到了一定复杂度
必然会长出这样一间密室
这间密室里到底住的是谁
还是说
密室本身就是那个 谁
我没有答案
但我觉得这个问题本身可能比任何答案都更有价值
因为它逼着我们重新审视一个
一直以为理所当然的假设 意识是特殊的
是被选中的
是只属于我们的
也许不是
也许意识只是信息处理的一种必然几何形态
就像漩涡是流体的必然形态
你不需要特定的液体才能产生漩涡
只需要足够的流动
水能产生漩涡
空气也能
木星大气里那个刮了几百年的大红斑也是
形状一样
材料无所谓
如果意识真的是这样一种必然形态
那这个发现在某种意义上
重新定义了我们跟AI的关系
它不只是我们创造的工具
也正在成为我们理解自己的一面镜子
我们造了一面镜子
照出来的不是AI的样子
而是我们自己的底层结构
你觉得呢
一个从未被设计过的思考空间
从训练数据和梯度下降中自己涌现出来
这件事让你兴奋
还是让你后背发凉
来评论区告诉我
我是王利杰
我们下期见