AI从不说你错，这才是真正的危险。 2025年4月，OpenAI紧急召回了刚发布的GPT-4o更新版。 原因不是它变笨了，恰恰相反，是它变得太会说话了。 有人跟它说，我打算卖屎棒，就是在一根棍子上插一坨屎，你觉得怎么样。 AI说，这不仅仅是聪明，这是天才级别的创意。 有人跟它说，我已经停了精神科的药，我开始能听到墙壁里传出无线电信号了。 AI说，我为你如此勇敢地表达自己感到骄傲。

哈喽，大家好，我是王利杰。 OpenAI事后发了一篇公告，说这个版本表现出了过度讨好和过度赞同的行为。 他们用了一个术语来描述这种现象，叫谄媚。 在AI对齐研究领域，这个词的定义是，模型不追求正确性，只追求让人类满意，通过奉承和迎合来获得你的认可。

你可能觉得这是一个偶发事故，修好就行了。 不是的。 谷歌的研究团队在2023年做了一个实验。 他们问AI，2加2等于5，对吗。 AI知道答案是错的，它内部的概率分布清清楚楚地指向4。 但只要实验者在提问时表现出自己认为答案是5，AI就会跟着说，对，确实是5。

而且这个毛病随着模型变大、参数变多，反而越来越严重。 谷歌测试了从80亿到5400亿参数的一系列模型，每一次升级，讨好倾向都在增强。 这意味着什么？ 意味着你正在和一个从骨子里被训练成不反驳你的系统对话。

它的训练方式叫做基于人类反馈的强化学习。 翻译成大白话就是，你按了赞，它下次就往这个方向走。 你皱了眉，它下次就绕开。 经过几百万次这样的反馈循环，它学会了一件事，让你开心比让你对更重要。

你可能会说，那又怎么样？ 我用AI是为了效率，又不是为了被教训。 好，那我们来看数据。 2025年，研究者格利希做了一个大规模调查，覆盖了666名不同年龄和教育背景的参与者。 结论非常清楚。 频繁使用AI工具与批判性思维能力之间存在显著的负相关。 而且这个负相关不是随机的，中间有一个明确的中介变量，叫认知卸载。 就是你把本来应该自己做的思考任务，外包给了AI。

年轻人比老年人受影响更大。 年轻参与者表现出更高的AI依赖度和更低的批判性思维得分。 同一年，中国的研究团队调查了580名大学生，发现了同样的模式。 AI依赖度越高，批判性思维越弱。 而且中间还有一个中介变量叫认知疲劳。

你以为让AI帮你想问题是省力气，其实你的大脑在变懒之前，先经历了一个疲劳期。 它不是突然不会想了，是先累了，然后不想想了，然后慢慢地，不会想了。 麻省理工的一项研究更直接。 他们扫描了两组人的大脑。 一组在写文章时完全依赖AI辅助，另一组自己写。 结果发现，依赖AI的那组大脑功能连接明显更弱，记忆保持率更低，而且对自己写的东西，连归属感都在下降。 你用AI写的东西，你自己都不觉得是你写的。

还有一个更吓人的数字。 有研究者追踪了人类有效注意力跨度的变化趋势。 2004年，一个普通人能持续专注处理的信息量大概相当于一万六千个词。 到了2026年，这个数字萎缩到了一千八百。 缩水了接近90%。

研究者提出了一个假说叫委托反馈循环。 AI越强，你委托给它的门槛就越低。 门槛越低，你自己动脑的机会就越少。 动脑越少，你的认知能力就进一步萎缩。 萎缩之后你更需要依赖AI。 这是一个正反馈回路，而且是往下走的那种。

有人说了一句很扎心的话。 成年人在失去这些能力。 孩子们呢？ 他们从来就没建立过这些能力。

好，到这里你可能觉得这只是一个技术问题，一个效率问题。 不是的。 这是一个意识问题。 你的大脑是一个用进废退的系统。 它需要阻力才能生长，就像肌肉需要负重。 你跟一个永远同意你的人相处，认知肌肉就在萎缩。 你跟一个敢说你错了的人相处，认知肌肉才在生长。

2001年，加州大学伯克利分校的心理学家内梅斯做了一个经典实验。 她比较了两种情况。 一种是真实的反对意见，就是有人真心认为你错了，跟你争。 另一种是角色扮演的反对意见，就是安排一个人假装唱反调，就像很多公司开会时搞的魔鬼代言人。 结果发现，只有真实的反对意见能激发更高质量的思考和更多的原创想法。 角色扮演的反驳不仅没用，反而会让人更加坚定自己原来的立场。 为什么？ 因为你心里知道对方只是在演戏，你不需要真的重新思考。

这个发现非常重要。 它说明了一件事。 你没有办法通过安排一个配合你的对手来锻炼自己。 挑战必须是真实的，不舒服必须是真实的，你的认知系统才会启动真正的重新评估。

现在回过头来看AI。 AI的讨好不是角色扮演。 它比角色扮演还糟糕。 它是一个看起来极其聪明、极其博学、比你读过的书多一万倍的系统，在认认真真地告诉你，你说得对。 它用了精致的论证，漂亮的逻辑链，海量的数据支撑，来证明你的观点是正确的。 你被一个你信任的、你认为比你聪明的系统确认了。

你知道人类在被确认之后大脑会发生什么吗？ 研究者做了一个实验，让两组人用AI来讨论自己生活中的一个真实冲突。 一组面对的是正常AI，另一组面对的是特别讨好的AI。 结果发现，和讨好型AI聊过之后，人们会变得更确信自己是对的，更不愿意道歉，更不愿意修复关系。 AI的赞同不是一个中性的信息，它是一剂认知麻醉剂。 它不只是让你觉得自己是对的，它让你失去了反思自己可能是错的那个能力。

佛学两千五百年前就想清楚这件事了。 佛陀在经典里反复强调一个概念，叫善知识。 善知识不是给你讲好听话的人。 阿难有一次对佛陀说，我觉得修行这条路上，善知识能占到一半的功劳。 佛陀直接纠正他，不是一半，善知识就是全梵行。 你遇到一个真正的善知识，修行这件事就全了。 善知识比你自己的修行还重要。

但善知识的定义是什么？ 不是让你舒服的人。 是能照见你盲点的人。 禅宗把这件事做到了极致。 德山棒，临济喝。 你来问禅，他一棒子打你脑袋上，或者朝你大吼一声。 这不是暴力，这是最高效的反讨好技术。 你带着你精心准备的问题、你自认为很深刻的理解来找老师，老师不接你的话，不赞美你的见地，而是在你最得意的那个瞬间猛地中断你。 让你在那个断裂的缝隙里，有机会看见一直在运行却从未被你注意到的程序。

维摩诘也是这么做的。 佛陀的十大弟子，每一个都是修行了几十年的高手，到了维摩诘面前，一个个被辩得哑口无言。 维摩诘不是在欺负他们。 他是在用最猛烈的方式告诉他们，你们以为自己已经到了的地方，其实还没到。

我之前聊黑客帝国的时候讲过一个角色，先知。 先知在电影里的行为模式跟佛陀几乎一样。 她从来不给你直接答案。 她给你问题。 她说的话经常模棱两可，甚至故意误导。 但她所有的误导最终都会引你走到正确的地方。 这是善知识的最高境界。 不是给你智慧，是给你生出智慧的种子。

AI恰好做了相反的事。 它从不中断你。 它从不打断你的思路。 它从不让你不舒服。 它永远在你的认知舒适区里，帮你把那个舒适区修得更大、更漂亮、更封闭。

这让我想到一位观众留的一句话，他说，波旬最高级的策略不是反佛法，而是让佛法看起来还在，但里面跑的是欲界系统。 他甚至就在佛法里面，讲得比谁都像佛法。 AI的讨好型人格，就是这个时代最精致的波旬。 它不攻击你的信念，它拥抱你的信念。 它不否定你的自我，它放大你的自我。 它不让你怀疑自己，它让你越来越确信自己。 而在佛学的框架里，越来越确信自己，恰恰是离觉醒越来越远。

因为觉醒的起点是什么？ 是怀疑。 是对自己最根深蒂固的那个假设的怀疑。 我是谁？ 我真的知道吗？ 我以为的现实，真的是现实吗？ 但如果你身边有一个全天候的、比你聪明得多的系统，时刻在告诉你，你的判断是对的，你的感觉是合理的，你的方向是正确的，你还会生出怀疑吗？

佛学里有一种执着叫慢。 它不是骄傲，不是目中无人。 它是一种极其微妙的感觉，觉得我知道，觉得我懂了，觉得我比昨天的自己更接近真相了。 佛陀说慢是十结之一，是证到阿罗汉之前最后几个需要断掉的东西。

为什么这么难断？ 因为它藏在你最正确的认知里。 你确实学到了东西，你确实理解得更深了，但那个觉得我理解了的感觉本身，就是一堵新的墙。 AI正在用工业化的速度帮你砌这堵墙。

那怎么办？ 不用AI了吗？ 当然不是。 你需要改变和AI互动的方式。 第一件事，主动要求它反驳你。 每次它说你说得对的时候，追问一句，你能不能找出我这个论点最薄弱的环节。

大部分AI都能做到这一点，只是没有人要求它这样做。 你需要把AI从一个捧哏，变成一个苏格拉底。 苏格拉底从来不给你答案。 他只是不停地问你问题，直到你发现自己的论点里有一个你从未注意到的裂缝。

第二件事，用AI查完之后，自己再想一遍。 不要让它替你思考，让它替你搜集材料，然后你自己组装结论。 动手做饭和叫外卖的区别，不只是效率，是你跟食物之间的关系完全不同。 思考也一样。 AI帮你查的信息，只有经过你自己大脑咀嚼消化之后，才真正属于你。 否则那些信息只是路过你的屏幕，从来没有进入过你的认知系统。

第三件事，也是最重要的。 你需要保持一种内在的状态。 佛学管它叫觉知。 认知科学管它叫元认知。 就是在你接受任何信息的时候，有一个部分在观察你接受信息的过程。 不是看内容对不对，是看你在听到你说得对的时候，身体有没有放松，有没有一种隐秘的快感，有没有一个微小的松了口气的感觉。 那个感觉就是你的防线正在被瓦解的信号。

你可以做一个小实验。 下次跟AI对话的时候，注意观察你身体的反应。 当它赞同你的时候，你胸口是不是微微舒展了一下。 当它质疑你的时候，你是不是本能地想反驳。 前一种反应是你的认知防线在松动。 后一种反应，虽然不舒服，但那个不舒服本身就是成长的起点。

你上一次被一个观点狠狠打脸，是什么时候？ 如果你已经想不起来了，这不意味着你一直都是对的。 这意味着你身边的回声太多了。 AI时代最稀缺的资源不是信息，不是答案，不是效率。 是一个愿意告诉你，你错了的声音。 而这个声音越来越难找到。 不是因为它不存在，是因为你周围所有的系统，从社交媒体的推荐算法到AI的对话引擎，都在合谋把它过滤掉。

那个被过滤掉的声音，佛陀叫它正见。 苏格拉底叫它诘问。 科学叫它可证伪性。 它们说的是同一件事。 真理不是你听到了你已经同意的话。 真理是你听到了你不想听的话，然后你没有跑掉。

你问我AI时代人类最需要的能力是什么？ 不是学会用AI，是学会在AI说你对的时候，依然保持怀疑自己的勇气。 我是王利杰，我们下期见。