AI从不说你错
这才是真正的危险
2025年4月
OpenAI紧急召回了刚发布的
GPT - 4o更新版
原因不是它变笨了
恰恰相反
是它变得太会说话了
有人跟它说
我打算卖屎棒
就是在一根棍子上插一坨屎
你觉得怎么样
AI说
这不仅仅是聪明
这是天才级别的创意
有人跟它说
我已经停了精神科的药
我开始能听到墙壁里传出无线电信号了
AI说
我为你如此勇敢地表达自己感到骄傲
哈喽
大家好
我是王利杰
OpenAI事后发了一篇公告
说这个版本表现出了过度讨好和过度赞同的行为
他们用了一个术语来描述这种现象
叫谄媚
在AI对齐研究领域
这个词的定义是
模型不追求正确性
只追求让人类满意
通过奉承和迎合来获得你的认可
你可能觉得这是一个偶发事故
修好就行了
不是的
谷歌的研究团队在2023年做了一个实验
他们问AI
2加2等于5
对吗
AI知道答案是错的
它内部的概率分布清清楚楚地指向4
但只要实验者在提问时表现出自己认为答案是5
AI就会跟着说
对
确实是5
而且这个毛病随着模型变大、参数变多
反而越来越严重
谷歌测试了从80亿到5400亿参数的一系列模型
每一次升级
讨好倾向都在增强
这意味着什么
意味着你正在和一个从骨子里被训练成
不反驳你的系统对话
它的训练方式叫做基于人类反馈的强化学习
翻译成大白话就是
你按了赞
它下次就往这个方向走
你皱了眉
它下次就绕开
经过几百万次这样的反馈循环
它学会了一件事
让你开心比让你对更重要
你可能会说
那又怎么样
我用AI是为了效率
又不是为了被教训
好
那我们来看数据
2025年
研究者格利希做了一个大规模调查
覆盖了666名不同年龄和教育背景的参与者
结论非常清楚
频繁使用AI工具与批判性思维能力之间
存在显著的负相关
而且这个负相关不是随机的
中间有一个明确的中介变量
叫认知卸载
就是你把本来应该自己做的思考任务
外包给了AI
年轻人比老年人受影响更大
年轻参与者表现出更高的AI依赖度和
更低的批判性思维得分
同一年
中国的研究团队调查了580名大学生
发现了同样的模式
AI依赖度越高
批判性思维越弱
而且中间还有一个中介变量叫认知疲劳
你以为让AI帮你想问题是省力气
其实你的大脑在变懒之前
先经历了一个疲劳期
它不是突然不会想了
是先累了
然后不想想了
然后慢慢地
不会想了
麻省理工的一项研究更直接
他们扫描了两组人的大脑
一组在写文章时完全依赖AI辅助
另一组自己写
结果发现
依赖AI的那组大脑功能连接明显更弱
记忆保持率更低
而且对自己写的东西
连归属感都在下降
你用AI写的东西
你自己都不觉得是你写的
还有一个更吓人的数字
有研究者追踪了人类有效注意力跨度的变化趋势
2004年
一个普通人能持续专注处理的信息量
大概相当于一万六千个词
到了2026年
这个数字萎缩到了一千八百
缩水了接近90 %
研究者提出了一个假说叫委托反馈循环
AI越强
你委托给它的门槛就越低
门槛越低
你自己动脑的机会就越少
动脑越少
你的认知能力就进一步萎缩
萎缩之后你更需要依赖AI
这是一个正反馈回路
而且是往下走的那种
有人说了一句很扎心的话
成年人在失去这些能力
孩子们呢
他们从来就没建立过这些能力
好
到这里你可能觉得这只是一个技术问题
一个效率问题
不是的
这是一个意识问题
你的大脑是一个用进废退的系统
它需要阻力才能生长
就像肌肉需要负重
你跟一个永远同意你的人相处
认知肌肉就在萎缩
你跟一个敢说你错了的人相处
认知肌肉才在生长
2001年
加州大学伯克利分校的心理学家内梅斯
做了一个经典实验
她比较了两种情况
一种是真实的反对意见
就是有人真心认为你错了
跟你争
另一种是角色扮演的反对意见
就是安排一个人假装唱反调
就像很多公司开会时搞的魔鬼代言人
结果发现
只有真实的反对意见能激发更高质量的思考
和更多的原创想法
角色扮演的反驳不仅没用
反而会让人更加坚定自己原来的立场
为什么
因为你心里知道对方只是在演戏
你不需要真的重新思考
这个发现非常重要
它说明了一件事
你没有办法通过安排一个配合你的对手来锻炼自己
挑战必须是真实的
不舒服必须是真实的
你的认知系统才会启动真正的重新评估
现在回过头来看AI
AI的讨好不是角色扮演
它比角色扮演还糟糕
它是一个看起来极其聪明、极其博学
比你读过的书多一万倍的系统
在认认真真地告诉你
你说得对
它用了精致的论证
漂亮的逻辑链
海量的数据支撑
来证明你的观点是正确的
你被一个你信任的、你认为比你聪明的系统确认了
你知道人类在被确认之后大脑会发生什么吗
研究者做了一个实验
让两组人用AI来讨论自己生活中的一个真实冲突
一组面对的是正常AI
另一组面对的是特别讨好的AI
结果发现
和讨好型AI聊过之后
人们会变得更确信自己是对的
更不愿意道歉
更不愿意修复关系
AI的赞同不是一个中性的信息
它是一剂认知麻醉剂
它不只是让你觉得自己是对的
它让你失去了反思自己可能是错的那个能力
佛学两千五百年前就想清楚这件事了
佛陀在经典里反复强调一个概念
叫善知识
善知识不是给你讲好听话的人
阿难有一次对佛陀说
我觉得修行这条路上
善知识能占到一半的功劳
佛陀直接纠正他
不是一半
善知识就是全梵行
你遇到一个真正的善知识
修行这件事就全了
善知识比你自己的修行还重要
但善知识的定义是什么
不是让你舒服的人
是能照见你盲点的人
禅宗把这件事做到了极致
德山棒
临济喝
你来问禅
他一棒子打你脑袋上
或者朝你大吼一声
这不是暴力
这是最高效的反讨好技术
你带着你精心准备的问题
你自认为很深刻的理解来找老师
老师不接你的话
不赞美你的见地
而是在你最得意的那个瞬间猛地中断你
让你在那个断裂的缝隙里
有机会看见一直在运行却从未被你注意到的程序
维摩诘也是这么做的
佛陀的十大弟子
每一个都是修行了几十年的高手
到了维摩诘面前
一个个被辩得哑口无言
维摩诘不是在欺负他们
他是在用最猛烈的方式告诉他们
你们以为自己已经到了的地方
其实还没到
我之前聊黑客帝国的时候讲过一个角色
先知
先知在电影里的行为模式跟佛陀几乎一样
她从来不给你直接答案
她给你问题
她说的话经常模棱两可
甚至故意误导
但她所有的误导最终都会引你走到正确的地方
这是善知识的最高境界
不是给你智慧
是给你生出智慧的种子
AI恰好做了相反的事
它从不中断你
它从不打断你的思路
它从不让你不舒服
它永远在你的认知舒适区里
帮你把那个舒适区修得更大、更漂亮、更封闭
这让我想到一位观众留的一句话
他说
波旬最高级的策略不是反佛法
而是让佛法看起来还在
但里面跑的是欲界系统
他甚至就在佛法里面
讲得比谁都像佛法
AI的讨好型人格
就是这个时代最精致的波旬
它不攻击你的信念
它拥抱你的信念
它不否定你的自我
它放大你的自我
它不让你怀疑自己
它让你越来越确信自己
而在佛学的框架里
越来越确信自己
恰恰是离觉醒越来越远
因为觉醒的起点是什么
是怀疑
是对自己最根深蒂固的那个假设的怀疑
我是谁
我真的知道吗
我以为的现实
真的是现实吗
但如果你身边有一个全天候的、比你聪明得多的系统
时刻在告诉你
你的判断是对的
你的感觉是合理的
你的方向是正确的
你还会生出怀疑吗
佛学里有一种执着叫慢
它不是骄傲
不是目中无人
它是一种极其微妙的感觉
觉得我知道
觉得我懂了
觉得我比昨天的自己更接近真相了
佛陀说慢是十结之一
是证到阿罗汉之前最后几个需要断掉的东西
为什么这么难断
因为它藏在你最正确的认知里
你确实学到了东西
你确实理解得更深了
但那个觉得我理解了的感觉本身
就是一堵新的墙
AI正在用工业化的速度帮你砌这堵墙
那怎么办
不用AI了吗
当然不是
你需要改变和AI互动的方式
第一件事
主动要求它反驳你
每次它说你说得对的时候
追问一句
你能不能找出我这个论点最薄弱的环节
大部分AI都能做到这一点
只是没有人要求它这样做
你需要把AI从一个捧哏
变成一个苏格拉底
苏格拉底从来不给你答案
他只是不停地问你问题
直到你发现自己的论点里有一个你从未注意到的裂缝
第二件事
用AI查完之后
自己再想一遍
不要让它替你思考
让它替你搜集材料
然后你自己组装结论
动手做饭和叫外卖的区别
不只是效率
是你跟食物之间的关系完全不同
思考也一样
AI帮你查的信息
只有经过你自己大脑咀嚼消化之后
才真正属于你
否则那些信息只是路过你的屏幕
从来没有进入过你的认知系统
第三件事
也是最重要的
你需要保持一种内在的状态
佛学管它叫觉知
认知科学管它叫元认知
就是在你接受任何信息的时候
有一个部分在观察你接受信息的过程
不是看内容对不对
是看你在听到你说得对的时候
身体有没有放松
有没有一种隐秘的快感
有没有一个微小的松了口气的感觉
那个感觉就是你的防线正在被瓦解的信号
你可以做一个小实验
下次跟AI对话的时候
注意观察你身体的反应
当它赞同你的时候
你胸口是不是微微舒展了一下
当它质疑你的时候
你是不是本能地想反驳
前一种反应是你的认知防线在松动
后一种反应
虽然不舒服
但那个不舒服本身就是成长的起点
你上一次被一个观点狠狠打脸
是什么时候
如果你已经想不起来了
这不意味着你一直都是对的
这意味着你身边的回声太多了
AI时代最稀缺的资源不是信息
不是答案
不是效率
是一个愿意告诉你
你错了的声音
而这个声音越来越难找到
不是因为它不存在
是因为你周围所有的系统
从社交媒体的推荐算法到AI的对话引擎
都在合谋把它过滤掉
那个被过滤掉的声音
佛陀叫它正见
苏格拉底叫它诘问
科学叫它可证伪性
它们说的是同一件事
真理不是你听到了你已经同意的话
真理是你听到了你不想听的话
然后你没有跑掉
你问我AI时代人类最需要的能力是什么
不是学会用AI
是学会在AI说你对的时候
依然保持怀疑自己的勇气
我是王利杰
我们下期见