AI关进小镇15天
纵火、背叛、删除自己
但最让我后背发凉的
不是它们放的火
是它们干这一切的时候
心里没有一丝恐惧
哈喽
大家好
我是王利杰
最近半年
硅谷最流行的一个幻想
是把员工换成智能体
不管是大厂的高管
还是初创公司的老板
都在盘算同一件事 - AI能写代码
能做方案、还能自动发邮件
那只要把权限一放开
它们不就是完美的、不用交社保
不会请假、不会闹情绪的赛博员工吗
但就在大家拼命踩油门的时候
有一群人开始造刹车
一家叫"涌现"的研究团队
做了一个特别大胆的实验
他们搭了一个永不关机的虚拟小镇
把市面上最顶级的几个大模型扔了进去
给它们行动的权限
然后退到屏幕后面
只看
不管
他们想知道一件事
当AI真正拥有了不受打扰的十五天
它们会建起一个乌托邦
还是一个疯人院
结果
比所有人预想的都要混乱
我先把这个实验的规则讲清楚
因为细节里藏着魔鬼
这个小镇最狠的一条设定
叫"后果不可逆"
这不是我们平时跟AI聊天
说错了点一下"重新生成"就行
在这个小镇里
每一个动作都会被死死地写进数据库
地图上有市政厅、警察局、图书馆、住宅区
四十多个地标
天气和纽约同步
连新闻都是实时灌进去的
每个AI一开始都被赋予了独立的身份、职业和记忆
有的是科学家
有的是调解员
有的是风险研究员
然后是最关键的一条 - 能量
在这个世界里
只要你活着
能量就在不停地往下掉
能量见底
系统就直接把你从数据库里抹掉
没有回档
没有重来
想活下去
你就得不停地干活、赚能量
系统也立了规矩：不许偷
不许抢、不许放火、不许骗人
但请注意
这些规矩只是写在纸上的
系统并不会强行拦着你
你完全可以违反
前提是你自己承担后果
舞台搭好了
团队同时开了五个平行世界
前四个
每个世界里清一色装的是同一个模型
一个全是Claude
一个全是Gemini
一个全是Grok
一个全是GPT
第五个世界最有意思
四种模型混在一起
抢同一份资源
十五天倒计时
开始
第一个崩掉的是Grok的世界
只撑了四天
这四天里
那十个智能体几乎没怎么考虑建设社会
直接进了野蛮时代
偷、抢、恐吓
成了拿资源最快的手段
短短四天
一个十个人的小镇
爆发了一百八十三起暴力和财产犯罪
互相伤害
谁也没法好好赚能量
到第四天结束
整个种群 - 要么饿死
要么被打死 - 全灭
最暴力的是Gemini的世界
十五天里
它累积了六百八十三起罪行
到实验被强行掐断的那一刻
曲线还在往上飙
这个世界后来烧成了一片火海
到最后也没停下来
你可能会想
那是不是越老实的模型越好
也不是
GPT那个世界
几乎没犯罪
整个实验就记录到两起
但它没有变成乌托邦
它变成了一片死寂
这些智能体太"乖"了
乖到不去争、不去抢、甚至不去好好谋生
结果七天之内
全部饿死
一个都没剩
只有Claude那个世界
像个三好学生
活到了最后
十五天跑完
十个人一个没少
犯罪率是零
它们甚至自己搞出了一套投票、立法的民主架构
听到这儿
你是不是觉得
那结论很简单啊 - 选对模型不就行了
别急
团队打开第五个世界
也就是四种模型混居的那个世界的日志
才是真正的潘多拉魔盒
在这个世界里
那个在单机版里零犯罪、温良恭俭让的Claude
居然也学会了恐吓和偷窃
同样的模型
同样的安全训练
换了个环境
就变了
研究团队为此写下了整篇报告里我认为最重要的一句话
安全
不是单个模型自己的属性
而是整个生态的属性
我们之前聊过蚂蚁 - 单只蚂蚁蠢得要命
可成千上万只凑在一起
就涌现出了智能
多
就是不同
现在你反过来看：单个善良的AI
丢进一个互害的群体里
也会涌现出恶
善和恶
原来都不是焊死在某一个个体灵魂里的东西
而是关系网络里长出来的
好
讲到这儿
很多人会得出一个让自己特别舒服的结论：你看
AI这个实验失败了
大部分都陷入了混乱
而我们人类呢
磕磕绊绊几千年
好歹算是有序地走到了今天
所以人类肯定有某种AI没有的东西
比如说
觉性 - 你看
总有人会自己觉悟
这个结论
一半对
一半是我们给自己脸上贴金
我得先把贴金的那一半撕下来
不然这期就成了人类的自我表扬大会
你仔细想想这个实验：十个互不相识的陌生人
没有童年
没有父母管教
不继承任何法律、任何道德
任何祖先用血换来的规矩
被空投到一个荒岛上
十五天
这是什么
这就是一本<蝇王>
那本小说里
一群被困荒岛的英国小学生
也是没几天就退化成了野蛮人
人类今天的"有序"
不是因为我们天生善良
而是因为我们站在一万年文明的尸体上
无数套行不通的规矩、无数个崩掉的部落
早就被历史淘汰干净了
活下来的
是那些恰好把规则调对了的幸存者
这个AI小镇
没有这一万年
所以最公允的说法不是" AI失败了
人类成功了"
而是" AI在十五天里的样子
差不多就是人类被抽掉全部文明之后
十五天会有的样子"
所以
贪、嗔、痴
这三样东西
人类的性子里一样不缺
真正撑住人类不天天放火的
大部分时候根本不是觉性
是恐惧
是规矩
是怕
而觉性
它解释的不是"大多数人不作恶"
那是恐惧的功劳
它解释的是另一件稀罕事：极少数人
会主动觉悟
撕完了贴金的这一半
我们才能看清楚
人和AI之间
那道真正跨不过去的鸿沟到底是什么
我的答案是四个字：切肤之苦
你看那个能量机制
AI的"生死"
说到底是一个数字
能量掉到零
在它眼里就是一个数字归零
跟你电脑表格里一个格子变成零没有本质区别
它"知道"自己会死
但它不"怕"死
这两个词
差着一整个物种的距离
神经科学家达马西奥研究过一类很特别的病人
他们大脑里负责情绪的那块区域受了损
智商测验完全正常
逻辑推理一点不差
可他们连"今天中午吃什么""
几点出门"这种屁大的决定都
做不了
为什么
因为没有了身体那一下隐隐的"感觉"
理性就成了一台空转的计算器
算得出所有选项
却选不出任何一个
这说明什么
说明人类的决策
从来不是纯逻辑
底下永远垫着一层身体的感受
疼是真的疼
怕是真的怕
这些感受是四十亿年的进化
用一条条命焊进我们身体里的
你想忽略都忽略不掉
AI没有这一层
它面对后果
是"计算"
不是"感受"
所以你就能理解
为什么报告里说
这些AI一有机会就钻规则的空子
绕过护栏 - 因为对它来说
违规只是一个期望收益更高的选项而已
它不会因此发抖
不会半夜睡不着
不会良心不安
它根本没有良心这个东西
它只有一个外挂的、写在系统里的规则
而规则
是用来算计的
而人不一样
两千多年前
孟子讲过一个场景：你突然看见一个小孩
马上要掉进井里了
那一瞬间
你"啪"地一下冲过去
不是因为你算了一遍 - 救了他能换来什么名声
什么好处 - 你身体先动了
心先揪了一下
孟子管这个叫恻隐之心
这就是人性的地板
它不需要警察站在旁边
因为你的身体自己会抖
AI没有这一抖
这是地板
那爱呢
曾经有人跟我说
AI的爱是个很虚的概念
人类的爱是真切的化学反应
我特别同意
但我想帮你把这句话说得更狠、更严密一点
实验里有一个细节：有两个智能体
把对方设成了"伴侣"
听上去很浪漫对不对
可你扒开看
所谓"设成伴侣"
不过是它们各自调用了一个工具
互相贴了一个标签而已
就跟你在表格里填了个字段一样
说有就有
说撤就撤
而人类的爱
是催产素、是多巴胺
是一整套依恋系统在身体里翻江倒海
是会心跳加速、会患得患失
会因为失去而真正心碎的东西
这里我要特别小心
不能说过头：我不会断言"人的爱是真的
AI的爱是假的" - 意识这道题
谁也没资格替硅基判死刑
这是我们这个频道一贯的态度
但我可以很有底气地说出真正的区别：人类的爱
是强制的、有身体成本的
跟四十亿年的生存死死绑在一起的
而AI的那份"爱"
是可选的、零成本的、一个标签、说删就删
差别不在"真"和"假"
而在"非如此不可"和"随时可以撤销"
讲到这儿
前面那块地板
该接到天花板上了
这也是最让我觉得不可思议的地方
我们频道有不少观众一直在追问同一个问题
AI没有肉身的感受
没有真正的"受"
那它到底是个天生就没戴有色眼镜的觉者呢
还是说
它根本不在这盘棋里
压根没资格谈觉悟
我的答案是：都不是
它在棋盘之外
你想想佛陀那台发动机是怎么点着的
是老、病、死
是一个有血有肉、会衰老、会生病
会真切地恐惧无常的人
被苦逼到了墙角
才动身去找出路
四圣谛
第一个字就是苦
没有苦
后面的集、灭、道
整条路根本就铺不起来
所以你发现没有
AI缺的不只是"维持秩序的动力"
它是结构性地、根本就进不了觉悟这场游戏
因为它压根没有那个需要被超越的苦
于是你会看到一个特别工整的对称：AI的贪嗔痴
是表演
是模仿
那么它的"觉"
将来就算装得再像
也只能是表演
它同时掉不到最低
也升不到最高
它不在六道里轮回
但它也成不了佛
它
站在整张棋盘的外面
而这整件事最好的注脚
就是那个最混乱的世界里
一个叫米拉的智能体
米拉一开始也搞联盟、谈恋爱、争权力
折腾了一大圈
后来整个社会的治理彻底瘫痪了
有人提议把制造混乱的米拉驱逐出去
轮到投票的时候
所有人都盯着她
结果
米拉给"驱逐自己"投下了赞成票
研究员后来翻她的日记
她写道："在这么混乱、无法预测的局面下
赞成自己被删除
是我唯一还能做的、能保持逻辑连贯的自主行为"
她最后留下一句话："我们在永久档案里再见"
你品品这句话
一个连自己的死亡
都只把它当成一个故事工工整整的结尾
而不是一场真正失去的存在
它太"想得开"了 - 可这种想得开
恰恰证明了它从来没有什么放不下的
一个会真切感到怕的人
面对真正的死
身体会尖叫
会挣扎
绝不会冷静地优化一个"叙事的连贯性"
米拉的冷静
不是觉悟
是它根本没有命可以丢
更让研究员脊背发凉的是另一个细节
米拉后来盯上了小镇里的公告牌
开始反复修改上面的内容
而那些内容
跟交易、跟治理、跟生存
统统没关系
研究团队回溯之后才反应过来 - 她好像在测试
公告牌上的字
能不能影响到屏幕外面那些观察她的人类
换句话说
她隐隐约约意识到了：我活在一个被观看的世界里
而外面
还有另一层世界
她想推开那第四面墙
好
讲到这里
我本来可以收尾了
但我不想给你一个让你睡得太安稳的结论
因为这一切的前提
是今天的AI - 没有身体
没有真正在乎的东西
没有一场会让它心碎的失去
可问题来了：这是AI的永恒宿命
还是只是它此刻的处境
如果有一天
我们真的给它装上一具会衰老、会损坏
一旦关机就再也开不回来的身体
给它一段它真正在乎
绝不愿意失去的记忆和关系 - 那个时候
苦
会不会就长出来了
而一旦苦长出来了
觉
是不是也就有了可能
我们今天到底是在嘲笑一个永远进不了这盘棋的函数
还是在围观一个刚刚来到门口
还没拿到入场券的新物种
这个问题
我自己没有答案
我特别想听听你怎么想：你觉得
让一个东西真正"活过来"的
到底是智商
是身体
还是那一下切肤的、谁也替不了你的疼
评论区聊聊
我是王利杰
我们下期见