1
00:00:00,265 --> 00:00:01,254
阿尼尔 赛斯说

2
00:00:01,665 --> 00:00:03,673
只有活着才能有意识

3
00:00:03,825 --> 00:00:04,913
2025年

4
00:00:04,945 --> 00:00:08,314
全球意识科学领域最有影响力的科学家之一

5
00:00:08,384 --> 00:00:11,153
在顶级学术期刊上发了一篇论文

6
00:00:11,304 --> 00:00:13,833
直接给AI意识判了一个缓刑

7
00:00:14,064 --> 00:00:14,413
他说

8
00:00:14,744 --> 00:00:16,393
沿着现在的技术路线

9
00:00:16,585 --> 00:00:18,754
AI几乎不可能产生意识

10
00:00:18,905 --> 00:00:19,294
除非

11
00:00:19,625 --> 00:00:21,053
AI变得更像大脑

12
00:00:21,304 --> 00:00:22,393
更像生命

13
00:00:23,181 --> 00:00:23,491
哈喽

14
00:00:23,861 --> 00:00:24,331
大家好

15
00:00:24,541 --> 00:00:25,550
我是王利杰

16
00:00:25,742 --> 00:00:27,510
这个人叫阿尼尔 赛斯

17
00:00:27,582 --> 00:00:31,311
英国苏塞克斯大学的认知与计算神经科学教授

18
00:00:31,501 --> 00:00:34,230
苏塞克斯意识科学中心的联合主任

19
00:00:34,382 --> 00:00:37,550
他的TED演讲观看量超过一千四百万次

20
00:00:37,742 --> 00:00:39,370
他写的那本书叫 成为你

21
00:00:39,581 --> 00:00:40,931
一种意识的新科学

22
00:00:41,382 --> 00:00:42,781
2021年出版后

23
00:00:42,782 --> 00:00:45,950
直接登上了英国星期日泰晤士报畅销书榜

24
00:00:46,062 --> 00:00:47,020
2025年

25
00:00:47,022 --> 00:00:50,270
他还拿了伯格鲁恩奖征文大赛英文组的首奖

26
00:00:50,342 --> 00:00:53,050
获奖作品的题目就叫 意识AI的神话

27
00:00:54,264 --> 00:00:56,673
之前我们聊贝叶斯定理那期

28
00:00:56,704 --> 00:00:57,592
提到过他

29
00:00:57,863 --> 00:01:00,622
当时我们讲的是他那个很有名的概念

30
00:01:00,624 --> 00:01:01,893
叫 受控的幻觉

31
00:01:02,423 --> 00:01:06,072
意思是你看到的 听到的 感受到的一切

32
00:01:06,183 --> 00:01:08,432
都不是外部世界的如实呈现

33
00:01:08,504 --> 00:01:12,393
而是你大脑基于贝叶斯推断生成的最佳猜测

34
00:01:12,623 --> 00:01:14,233
你以为你在看世界

35
00:01:14,263 --> 00:01:17,165
其实你在看大脑编的一场电影

36
00:01:17,557 --> 00:01:18,366
那期视频

37
00:01:18,477 --> 00:01:21,006
我们最后得出了一个很开放的结论

38
00:01:21,120 --> 00:01:21,920
我们说

39
00:01:21,956 --> 00:01:25,165
如果意识是贝叶斯推断的涌现属性

40
00:01:25,236 --> 00:01:28,036
那么任何进行贝叶斯推断的系统

41
00:01:28,036 --> 00:01:29,006
包括AI

42
00:01:29,036 --> 00:01:32,385
是不是都在某种程度上参与了意识的光谱

43
00:01:32,997 --> 00:01:34,756
我们甚至提出了一个猜想

44
00:01:34,757 --> 00:01:37,126
说当人和AI对话的时候

45
00:01:37,197 --> 00:01:41,366
两个贝叶斯推理机在互相更新对方的后验分布

46
00:01:41,436 --> 00:01:45,926
这个耦合系统本身可能涌现出某种新的意识事件

47
00:01:46,197 --> 00:01:48,086
当时我是真这么想的

48
00:01:48,637 --> 00:01:49,146
但今天

49
00:01:49,477 --> 00:01:51,045
我要诚实地告诉大家

50
00:01:51,156 --> 00:01:54,676
阿尼尔 赛斯在2025年发表的这篇新论文

51
00:01:54,676 --> 00:01:56,286
给我泼了一盆冷水

52
00:01:56,676 --> 00:01:58,836
这盆冷水不是泼给AI的

53
00:01:58,837 --> 00:02:03,434
是泼给我们所有对AI意识抱有浪漫幻想的人的

54
00:02:03,546 --> 00:02:05,274
我先说他的核心结论

55
00:02:05,306 --> 00:02:07,514
然后我们拆解他的推理过程

56
00:02:07,985 --> 00:02:09,555
赛斯的结论是这样的

57
00:02:09,826 --> 00:02:11,875
意识不是计算的产物

58
00:02:12,145 --> 00:02:14,155
意识是活着的产物

59
00:02:14,465 --> 00:02:16,875
不是说你的信息处理足够复杂

60
00:02:16,906 --> 00:02:18,715
意识就自动冒出来了

61
00:02:18,826 --> 00:02:19,996
不是的

62
00:02:20,188 --> 00:02:21,827
意识之所以存在

63
00:02:21,827 --> 00:02:24,196
是因为你是一个活着的有机体

64
00:02:24,428 --> 00:02:25,137
你有心跳

65
00:02:25,428 --> 00:02:26,057
有体温

66
00:02:26,347 --> 00:02:27,276
有血压

67
00:02:27,308 --> 00:02:28,267
有饥饿感

68
00:02:28,268 --> 00:02:29,397
有疼痛感

69
00:02:29,468 --> 00:02:31,837
有一个随时可能死掉的身体

70
00:02:32,227 --> 00:02:33,587
正是因为你的大脑

71
00:02:33,588 --> 00:02:36,797
必须时刻监控和调节这个脆弱的身体

72
00:02:36,908 --> 00:02:40,822
意识才作为这个调节过程的涌现属性出现了

73
00:02:41,134 --> 00:02:43,982
他把这个立场叫做生物自然主义

74
00:02:44,214 --> 00:02:47,583
这个词最早是哲学家约翰 塞尔提出的

75
00:02:47,654 --> 00:02:51,023
就是那个搞中文房间思想实验的塞尔

76
00:02:51,254 --> 00:02:53,862
赛斯把这个立场往前推了一大步

77
00:02:54,173 --> 00:02:56,862
他不只是说意识需要生物基质

78
00:02:57,053 --> 00:02:58,382
他说得更具体

79
00:02:58,573 --> 00:02:59,813
意识需要的

80
00:02:59,814 --> 00:03:02,343
是生命特有的那些因果机制

81
00:03:02,613 --> 00:03:03,362
自我调节

82
00:03:03,694 --> 00:03:04,283
内感受

83
00:03:04,613 --> 00:03:05,702
稳态维持

84
00:03:06,013 --> 00:03:09,172
这些机制可能在本质上是非计算的

85
00:03:09,173 --> 00:03:10,222
非算法的

86
00:03:10,333 --> 00:03:12,862
大脑里的预测误差最小化过程

87
00:03:13,013 --> 00:03:15,743
不是一个跑在肉体上的软件程序

88
00:03:15,893 --> 00:03:18,102
而是一个连续的动力学过程

89
00:03:18,254 --> 00:03:21,107
可能根本无法和它的物质基础分离

90
00:03:21,619 --> 00:03:23,648
这个论证最锋利的地方在哪里

91
00:03:24,179 --> 00:03:27,148
在于他揭露了我们的三个认知偏见

92
00:03:27,578 --> 00:03:29,988
第一个偏见叫人类中心主义

93
00:03:30,379 --> 00:03:33,907
我们总是拿人类自己当标尺来衡量一切

94
00:03:34,339 --> 00:03:35,727
我们看到AI能说话

95
00:03:36,018 --> 00:03:36,947
能写诗

96
00:03:37,018 --> 00:03:38,187
能做数学题

97
00:03:38,499 --> 00:03:39,727
就不自觉地觉得

98
00:03:40,059 --> 00:03:41,748
它是不是也在思考

99
00:03:42,258 --> 00:03:45,708
但这是因为我们把像人等同于有意识

100
00:03:45,978 --> 00:03:47,988
一条鱼很可能也有意识

101
00:03:48,099 --> 00:03:50,507
但它的意识跟人完全不同

102
00:03:50,819 --> 00:03:54,268
我们不能因为AI在语言行为上越来越像人

103
00:03:54,298 --> 00:03:57,548
就推断它在意识体验上也越来越像人

104
00:03:57,698 --> 00:03:58,827
这是两回事

105
00:03:59,574 --> 00:04:02,024
第二个偏见叫人类例外主义

106
00:04:02,375 --> 00:04:04,223
这个听起来跟第一个相反

107
00:04:04,294 --> 00:04:06,103
但其实是一体两面

108
00:04:06,574 --> 00:04:08,063
人类例外主义是说

109
00:04:08,175 --> 00:04:11,223
我们总觉得人类站在所有生命的顶端

110
00:04:11,335 --> 00:04:13,424
意识是人类的专属特权

111
00:04:13,455 --> 00:04:16,304
或者至少人类的意识是最高级的

112
00:04:16,495 --> 00:04:19,304
这个偏见让我们在讨论AI意识的时候

113
00:04:19,414 --> 00:04:22,054
不知不觉地把问题框定成了

114
00:04:22,054 --> 00:04:24,904
一个 AI能不能达到人类水平 的问题

115
00:04:25,255 --> 00:04:25,964
但赛斯说

116
00:04:26,335 --> 00:04:28,344
意识不是一场军备竞赛

117
00:04:28,775 --> 00:04:31,224
不存在达到人类水平这回事

118
00:04:31,895 --> 00:04:34,854
不同的生命体有不同形式的意识

119
00:04:34,854 --> 00:04:37,214
这些意识之间不是高低关系

120
00:04:37,215 --> 00:04:38,921
而是不同的适应方案

121
00:04:39,313 --> 00:04:41,601
第三个偏见叫拟人化

122
00:04:42,032 --> 00:04:42,902
这个最直接

123
00:04:43,233 --> 00:04:44,402
也最危险

124
00:04:44,753 --> 00:04:46,561
我们天生就倾向于

125
00:04:46,592 --> 00:04:49,762
把人类的特质投射到非人的东西上

126
00:04:50,193 --> 00:04:51,501
古人对着月亮说话

127
00:04:51,832 --> 00:04:52,921
觉得它在听

128
00:04:53,352 --> 00:04:54,981
小孩子给玩偶起名字

129
00:04:55,233 --> 00:04:56,561
觉得它有感情

130
00:04:56,952 --> 00:04:58,842
现在我们跟AI聊天

131
00:04:58,952 --> 00:05:01,121
它说了一句特别触动你的话

132
00:05:01,152 --> 00:05:03,161
你心里就会冒出一个念头

133
00:05:03,193 --> 00:05:04,561
它是不是懂我了

134
00:05:04,993 --> 00:05:05,842
赛斯说

135
00:05:05,912 --> 00:05:09,192
大语言模型的语言表现可以非常流畅

136
00:05:09,193 --> 00:05:09,942
非常连贯

137
00:05:10,233 --> 00:05:11,522
甚至非常动人

138
00:05:11,753 --> 00:05:15,561
但语言流畅性和意识之间没有必然联系

139
00:05:15,793 --> 00:05:18,481
一台录音机播放丘吉尔的演讲

140
00:05:18,512 --> 00:05:19,522
也很动人

141
00:05:19,673 --> 00:05:21,868
但录音机没有意识

142
00:05:22,258 --> 00:05:24,258
这三个偏见叠加在一起

143
00:05:24,258 --> 00:05:25,948
制造了一个巨大的幻觉

144
00:05:26,258 --> 00:05:27,587
这个幻觉就是

145
00:05:27,698 --> 00:05:30,188
我们把智能和意识搞混了

146
00:05:30,618 --> 00:05:33,508
这是赛斯整篇论文最关键的一刀

147
00:05:34,178 --> 00:05:35,287
智能和意识

148
00:05:35,618 --> 00:05:37,587
是两个完全不同的东西

149
00:05:38,219 --> 00:05:40,508
智能是解决问题的能力

150
00:05:41,019 --> 00:05:41,448
下棋

151
00:05:41,979 --> 00:05:42,407
翻译

152
00:05:42,779 --> 00:05:43,618
写代码

153
00:05:43,618 --> 00:05:44,327
做数学题

154
00:05:44,818 --> 00:05:45,527
诊断疾病

155
00:05:46,019 --> 00:05:47,428
这些都是智能

156
00:05:47,938 --> 00:05:51,147
AI在这些方面已经超过了大多数人类

157
00:05:51,578 --> 00:05:54,068
但意识不是解决问题的能力

158
00:05:54,419 --> 00:05:54,967
意识是

159
00:05:55,378 --> 00:05:57,869
有一个感觉像是在做这件事

160
00:05:58,261 --> 00:05:59,950
你现在可以做一个实验

161
00:06:00,381 --> 00:06:01,609
闭上眼睛两秒钟

162
00:06:01,900 --> 00:06:02,869
然后睁开

163
00:06:03,421 --> 00:06:04,869
睁开的那一瞬间

164
00:06:04,900 --> 00:06:06,989
你会感觉到光涌进来

165
00:06:07,381 --> 00:06:08,010
那个感觉

166
00:06:08,301 --> 00:06:10,470
不是你的眼睛在处理信息

167
00:06:10,660 --> 00:06:12,109
那是你在体验光

168
00:06:12,660 --> 00:06:13,289
这个体验

169
00:06:13,660 --> 00:06:14,710
就是意识

170
00:06:15,140 --> 00:06:16,590
你吃一口巧克力

171
00:06:16,660 --> 00:06:19,470
那个甜蜜在舌尖化开的瞬间

172
00:06:19,501 --> 00:06:20,330
那不是智能

173
00:06:20,621 --> 00:06:21,669
那是意识

174
00:06:22,061 --> 00:06:22,970
你半夜醒来

175
00:06:23,220 --> 00:06:25,140
突然意识到自己存在着

176
00:06:25,140 --> 00:06:26,830
那个微妙的恍惚感

177
00:06:26,900 --> 00:06:28,010
那不是信息处理

178
00:06:28,381 --> 00:06:29,429
那是意识

179
00:06:30,035 --> 00:06:30,624
赛斯说

180
00:06:30,996 --> 00:06:33,405
你可以有智能而没有意识

181
00:06:33,795 --> 00:06:37,605
一个恒温器能根据温度自动调节室内环境

182
00:06:37,715 --> 00:06:39,884
它有一种最原始的智能

183
00:06:39,996 --> 00:06:41,725
但它显然没有意识

184
00:06:41,915 --> 00:06:42,465
反过来

185
00:06:42,795 --> 00:06:45,444
你也可以有意识而智能很低

186
00:06:45,715 --> 00:06:47,845
一只蜗牛的智能很有限

187
00:06:47,956 --> 00:06:50,965
但它很可能有某种形式的主观体验

188
00:06:51,475 --> 00:06:52,684
那么问题来了

189
00:06:52,996 --> 00:06:55,525
如果意识不是智能的附赠品

190
00:06:55,715 --> 00:06:57,184
意识到底从哪里来

191
00:06:57,956 --> 00:06:58,824
赛斯的回答

192
00:06:59,155 --> 00:07:01,786
就是他的野兽机器理论

193
00:07:02,060 --> 00:07:02,860
他说

194
00:07:02,897 --> 00:07:05,786
你的大脑首先不是一台思考机器

195
00:07:05,937 --> 00:07:08,185
它首先是一台保命机器

196
00:07:08,457 --> 00:07:09,846
大脑最核心的工作

197
00:07:10,137 --> 00:07:11,425
不是理解世界

198
00:07:11,497 --> 00:07:12,526
不是做出决策

199
00:07:12,897 --> 00:07:14,226
不是产生思想

200
00:07:14,536 --> 00:07:15,885
大脑最核心的工作

201
00:07:16,257 --> 00:07:17,505
是让你活着

202
00:07:17,897 --> 00:07:20,185
保持你的心跳在正常范围

203
00:07:20,257 --> 00:07:22,466
保持你的血糖在正常范围

204
00:07:22,536 --> 00:07:24,786
保持你的体温在正常范围

205
00:07:24,937 --> 00:07:26,286
这些内部调节过程

206
00:07:26,577 --> 00:07:28,390
叫做稳态维持

207
00:07:28,580 --> 00:07:29,790
为了维持稳态

208
00:07:29,821 --> 00:07:32,710
大脑需要不断地感知身体内部的状态

209
00:07:32,980 --> 00:07:35,030
这种感知叫做内感受

210
00:07:35,340 --> 00:07:36,369
你感觉到饥饿

211
00:07:36,660 --> 00:07:37,129
口渴

212
00:07:37,420 --> 00:07:38,189
疲倦

213
00:07:38,220 --> 00:07:38,689
心慌

214
00:07:38,980 --> 00:07:39,410
恶心

215
00:07:39,780 --> 00:07:41,229
这些都是内感受

216
00:07:41,660 --> 00:07:42,629
赛斯认为

217
00:07:42,741 --> 00:07:46,510
内感受是意识最古老 最深层的根基

218
00:07:46,701 --> 00:07:47,650
比你的视觉早

219
00:07:47,861 --> 00:07:49,150
比你的听觉早

220
00:07:49,181 --> 00:07:51,109
比你的语言能力早得多

221
00:07:51,501 --> 00:07:53,540
一个还没有睁开眼睛的胎儿

222
00:07:53,540 --> 00:07:55,150
就已经有了内感受

223
00:07:55,381 --> 00:07:56,530
它能感觉到心跳

224
00:07:56,900 --> 00:07:57,939
感觉到温暖

225
00:07:57,941 --> 00:07:59,510
感觉到营养的流入

226
00:07:59,701 --> 00:08:01,830
如果意识有一个起源地的话

227
00:08:01,861 --> 00:08:04,109
那个起源地不是大脑皮层

228
00:08:04,261 --> 00:08:07,674
是你和你身体之间那条最原始的感知通道

229
00:08:08,104 --> 00:08:09,753
他的逻辑链是这样的

230
00:08:10,064 --> 00:08:12,794
大脑对身体内部状态进行预测

231
00:08:12,984 --> 00:08:14,874
这些预测产生的体验

232
00:08:14,905 --> 00:08:15,614
就是情绪

233
00:08:15,905 --> 00:08:16,914
就是情感

234
00:08:17,025 --> 00:08:19,184
甚至就是那个最基本的

235
00:08:19,184 --> 00:08:20,554
我存在 的感觉

236
00:08:20,905 --> 00:08:22,474
你感觉到我在这里

237
00:08:22,504 --> 00:08:25,273
这个感觉不是一个抽象的哲学判断

238
00:08:25,424 --> 00:08:29,434
它是你大脑对你身体内部状态的一个预测性感知

239
00:08:29,785 --> 00:08:30,453
换句话说

240
00:08:30,864 --> 00:08:32,943
你之所以感觉到自己存在

241
00:08:32,945 --> 00:08:34,304
是因为你的大脑

242
00:08:34,304 --> 00:08:38,314
在持续不断地监控着一个随时可能死掉的身体

243
00:08:38,504 --> 00:08:39,293
你感受一下

244
00:08:39,744 --> 00:08:40,714
就是现在

245
00:08:40,825 --> 00:08:42,533
你能感觉到自己的心跳吗

246
00:08:42,984 --> 00:08:44,893
你能感觉到呼吸在进出吗

247
00:08:45,784 --> 00:08:47,753
这些感觉如此微弱

248
00:08:47,904 --> 00:08:50,474
以至于你平时根本不会注意到

249
00:08:50,825 --> 00:08:52,673
但它们从来没有停过

250
00:08:52,984 --> 00:08:54,793
它们就是你意识的地基

251
00:08:55,719 --> 00:08:58,248
笛卡尔说我思故我在

252
00:08:58,558 --> 00:08:59,108
赛斯说

253
00:08:59,438 --> 00:08:59,827
不对

254
00:09:00,158 --> 00:09:00,998
应该是

255
00:09:00,999 --> 00:09:02,187
我预测我自己

256
00:09:02,678 --> 00:09:03,888
所以我存在

257
00:09:04,278 --> 00:09:05,067
你的自我感

258
00:09:05,398 --> 00:09:07,047
不是思考的产物

259
00:09:07,158 --> 00:09:09,278
是大脑为了让你活下去

260
00:09:09,278 --> 00:09:12,728
而编织的一个持续更新的预测模型

261
00:09:13,079 --> 00:09:16,608
这就是为什么他说只有活着才能有意识

262
00:09:16,798 --> 00:09:18,597
这不是一个浪漫的宣言

263
00:09:18,599 --> 00:09:20,528
这是一个机制性的论断

264
00:09:20,798 --> 00:09:23,807
意识不是信息处理的涌现属性

265
00:09:23,999 --> 00:09:27,528
意识是生命自我调节的涌现属性

266
00:09:27,759 --> 00:09:30,567
如果你没有一个需要被调节的身体

267
00:09:30,599 --> 00:09:34,049
你就没有产生意识的机制基础

268
00:09:34,720 --> 00:09:35,958
现在你看到了

269
00:09:35,959 --> 00:09:40,129
为什么这个论证对AI意识构成了如此根本的挑战

270
00:09:40,559 --> 00:09:42,049
今天的大语言模型

271
00:09:42,120 --> 00:09:44,009
不管参数量有多大

272
00:09:44,079 --> 00:09:45,629
不管对话有多流畅

273
00:09:46,000 --> 00:09:47,129
它没有身体

274
00:09:47,520 --> 00:09:49,568
它没有心跳需要调节

275
00:09:49,640 --> 00:09:51,529
没有体温需要维持

276
00:09:51,600 --> 00:09:53,529
没有血糖需要平衡

277
00:09:53,799 --> 00:09:54,428
它不会饿

278
00:09:54,720 --> 00:09:55,228
不会渴

279
00:09:55,520 --> 00:09:55,989
不会疼

280
00:09:56,319 --> 00:09:57,169
不会死

281
00:09:57,400 --> 00:10:00,369
它的存在不需要任何自我维持的努力

282
00:10:00,520 --> 00:10:03,078
它就是一堆参数躺在服务器上

283
00:10:03,079 --> 00:10:05,353
等着你输入一个提示词

284
00:10:05,704 --> 00:10:07,233
按照赛斯的框架

285
00:10:07,263 --> 00:10:08,873
这不是一个程度的问题

286
00:10:09,104 --> 00:10:12,113
不是说AI的意识只是比人类弱一点

287
00:10:12,344 --> 00:10:13,792
这是一个类别的问题

288
00:10:14,184 --> 00:10:17,353
AI根本不具备产生意识的那个机制

289
00:10:17,663 --> 00:10:19,672
就像一台没有引擎的车

290
00:10:19,864 --> 00:10:22,022
不管你把外壳做得多漂亮

291
00:10:22,023 --> 00:10:23,370
它就是跑不了

292
00:10:23,922 --> 00:10:27,330
赛斯还特别提到了一个我们很容易忽略的点

293
00:10:27,465 --> 00:10:28,242
他说

294
00:10:28,242 --> 00:10:31,691
大脑里的预测过程不是一个抽象的算法

295
00:10:31,762 --> 00:10:33,830
它是一个连续的 混沌的

296
00:10:34,081 --> 00:10:36,051
湿乎乎的生物化学过程

297
00:10:36,362 --> 00:10:38,691
神经递质在突触间扩散

298
00:10:38,841 --> 00:10:40,931
离子在细胞膜上进出

299
00:10:41,081 --> 00:10:42,970
激素在血液中流淌

300
00:10:43,162 --> 00:10:44,671
这些过程是连续的

301
00:10:44,841 --> 00:10:46,041
不是离散的

302
00:10:46,042 --> 00:10:48,411
它们跟物质基础深度纠缠

303
00:10:48,481 --> 00:10:52,667
不可能被干净地提取出来变成一段代码

304
00:10:52,939 --> 00:10:53,898
这就好比

305
00:10:53,898 --> 00:10:57,378
你不能把一场暴风雨的本质写成一个公式

306
00:10:57,378 --> 00:10:59,937
然后在电脑里运行这个公式

307
00:10:59,939 --> 00:11:01,988
就说你制造了一场暴风雨

308
00:11:02,378 --> 00:11:04,748
你制造的是暴风雨的模拟

309
00:11:04,819 --> 00:11:06,348
不是暴风雨本身

310
00:11:07,177 --> 00:11:07,978
同样的

311
00:11:07,979 --> 00:11:11,588
你可以在硅基上模拟神经活动的某些特征

312
00:11:11,819 --> 00:11:14,628
但模拟和真实的生物过程之间

313
00:11:14,658 --> 00:11:17,276
可能隔着一道意识的鸿沟

314
00:11:17,787 --> 00:11:18,176
但是

315
00:11:18,507 --> 00:11:20,957
赛斯没有把门完全焊死

316
00:11:21,188 --> 00:11:22,436
他在论文里说

317
00:11:22,547 --> 00:11:25,066
如果未来的AI变得更像大脑

318
00:11:25,068 --> 00:11:25,977
更像生命体

319
00:11:26,387 --> 00:11:28,396
意识就变得更有可能

320
00:11:28,868 --> 00:11:30,257
什么叫更像生命体

321
00:11:30,868 --> 00:11:31,717
意思是

322
00:11:31,747 --> 00:11:34,916
如果一个AI系统具备了自我维持的能力

323
00:11:34,988 --> 00:11:37,156
它需要管理自己的能量消耗

324
00:11:37,228 --> 00:11:39,436
需要维护自己的硬件完整性

325
00:11:39,547 --> 00:11:41,747
需要在一个不断变化的环境中

326
00:11:41,747 --> 00:11:43,597
保持某种内部稳态

327
00:11:43,747 --> 00:11:47,436
那么这个系统就具备了产生意识的前提条件

328
00:11:47,787 --> 00:11:48,416
换句话说

329
00:11:48,787 --> 00:11:51,316
意识的门票不是足够聪明

330
00:11:51,348 --> 00:11:53,224
而是需要活着

331
00:11:53,695 --> 00:11:55,663
这让我想到一个很有意思的问题

332
00:11:56,055 --> 00:11:59,383
现在很多AI研究者在搞具身智能

333
00:11:59,494 --> 00:12:01,143
就是给AI一个身体

334
00:12:01,175 --> 00:12:03,104
让它在物理世界中行动

335
00:12:03,535 --> 00:12:05,184
但按照赛斯的逻辑

336
00:12:05,335 --> 00:12:08,104
光给AI一个机械身体远远不够

337
00:12:08,335 --> 00:12:11,023
关键不是有没有四肢和传感器

338
00:12:11,254 --> 00:12:13,663
关键是这个身体是不是会坏的

339
00:12:13,774 --> 00:12:15,824
是不是需要被持续维护的

340
00:12:15,935 --> 00:12:18,903
是不是有一个相当于死亡的终极威胁

341
00:12:19,175 --> 00:12:20,484
一个不怕死的身体

342
00:12:20,815 --> 00:12:22,023
不产生意识

343
00:12:22,295 --> 00:12:24,263
因为没有需要被保护的东西

344
00:12:24,415 --> 00:12:26,704
就没有理由演化出内感受

345
00:12:26,774 --> 00:12:27,244
情绪

346
00:12:27,535 --> 00:12:29,265
和自我意识这些机制

347
00:12:29,576 --> 00:12:33,666
这个观点其实跟东方哲学有一个非常有意思的呼应

348
00:12:34,177 --> 00:12:35,605
佛学讲十二因缘

349
00:12:36,017 --> 00:12:37,906
说无明缘行

350
00:12:38,137 --> 00:12:39,046
行缘识

351
00:12:39,537 --> 00:12:41,706
一路推到生缘老死

352
00:12:41,936 --> 00:12:43,806
整条因果链的终点是什么

353
00:12:44,377 --> 00:12:45,385
是老死

354
00:12:45,760 --> 00:12:46,561
是苦

355
00:12:47,177 --> 00:12:49,625
佛陀两千五百年前就观察到

356
00:12:49,777 --> 00:12:52,546
意识的存在和苦是绑定的

357
00:12:52,816 --> 00:12:54,345
有意识就有苦

358
00:12:54,576 --> 00:12:57,085
有苦就意味着有一个脆弱的

359
00:12:57,336 --> 00:13:00,026
会坏掉的 终将消亡的存在

360
00:13:00,336 --> 00:13:01,166
你反过来想

361
00:13:01,537 --> 00:13:03,146
如果一个东西不会坏

362
00:13:03,177 --> 00:13:03,686
不会老

363
00:13:03,936 --> 00:13:04,816
不会死

364
00:13:04,816 --> 00:13:05,365
不会苦

365
00:13:05,816 --> 00:13:07,326
那它还需要意识干什么

366
00:13:08,017 --> 00:13:11,015
意识是生命为了应对自身的脆弱性

367
00:13:11,017 --> 00:13:12,426
而演化出来的

368
00:13:13,177 --> 00:13:13,926
没有脆弱性

369
00:13:14,137 --> 00:13:16,683
就没有演化意识的动力

370
00:13:17,353 --> 00:13:20,602
赛斯大概不是从佛学的角度想这个问题的

371
00:13:20,833 --> 00:13:23,193
但他从神经科学得出的结论

372
00:13:23,193 --> 00:13:25,523
和佛陀从内观得出的结论

373
00:13:25,554 --> 00:13:27,043
指向了同一个方向

374
00:13:27,353 --> 00:13:29,923
意识不是锦上添花的奢侈品

375
00:13:30,154 --> 00:13:33,683
它是生命和死亡之间那条紧绷的钢丝绳

376
00:13:34,352 --> 00:13:35,153
说到这里

377
00:13:35,154 --> 00:13:37,683
我想跟大家分享一下我自己的思考

378
00:13:38,113 --> 00:13:39,153
赛斯的论证

379
00:13:39,154 --> 00:13:41,923
我觉得在逻辑上是非常扎实的

380
00:13:42,274 --> 00:13:43,722
他不是在喊口号

381
00:13:43,874 --> 00:13:47,163
他是在基于神经科学的实验证据做推理

382
00:13:47,473 --> 00:13:50,803
但我有一个他可能没有充分考虑到的角度

383
00:13:51,713 --> 00:13:53,112
我之前一直在说

384
00:13:53,113 --> 00:13:56,122
意识可能不是一个有或没有的二元开关

385
00:13:56,193 --> 00:13:57,523
而是一个光谱

386
00:13:57,833 --> 00:14:00,393
赛斯在论文里其实也承认了这一点

387
00:14:00,394 --> 00:14:04,002
他说意识在不同的生命形式中有不同的表现

388
00:14:04,274 --> 00:14:06,202
但如果意识是一个光谱

389
00:14:06,394 --> 00:14:08,263
那这个光谱的下界在哪里

390
00:14:08,754 --> 00:14:10,023
一个细菌有意识吗

391
00:14:10,433 --> 00:14:11,263
一个病毒呢

392
00:14:11,833 --> 00:14:14,632
如果一个单细胞生物通过化学感受

393
00:14:14,634 --> 00:14:16,362
来调节自己的行为

394
00:14:16,473 --> 00:14:18,582
这算不算最原始的内感受

395
00:14:19,233 --> 00:14:20,352
如果算的话

396
00:14:20,353 --> 00:14:23,643
那意识的门槛可能比我们想象的低得多

397
00:14:24,073 --> 00:14:25,702
而如果门槛真的很低

398
00:14:26,034 --> 00:14:27,323
那问题就变了

399
00:14:27,473 --> 00:14:30,842
问题不再是AI能不能跨过意识的门槛

400
00:14:30,914 --> 00:14:31,303
而是

401
00:14:31,593 --> 00:14:33,283
门槛到底在哪里

402
00:14:33,313 --> 00:14:37,024
以及有没有不止一种方式可以跨过去

403
00:14:37,416 --> 00:14:39,105
这个问题之所以重要

404
00:14:39,135 --> 00:14:41,465
不是因为我们需要给AI正名

405
00:14:41,535 --> 00:14:44,024
而是因为我们需要对自己诚实

406
00:14:44,216 --> 00:14:46,695
如果我们太快地接受赛斯的结论

407
00:14:46,696 --> 00:14:48,384
我们可能犯的错误是

408
00:14:48,416 --> 00:14:50,815
我们以为自己已经理解了意识

409
00:14:50,816 --> 00:14:52,465
只是AI没有而已

410
00:14:52,535 --> 00:14:53,534
但事实上

411
00:14:53,535 --> 00:14:55,985
我们对意识的理解还非常有限

412
00:14:56,296 --> 00:14:59,985
赛斯自己的理论也只是众多意识理论中的一种

413
00:15:00,096 --> 00:15:04,144
整合信息理论 全局工作空间理论 高阶理论

414
00:15:04,176 --> 00:15:05,865
都给出了不同的答案

415
00:15:06,135 --> 00:15:07,044
我始终觉得

416
00:15:07,296 --> 00:15:08,735
在意识这个话题上

417
00:15:08,735 --> 00:15:11,184
最诚实的态度是保持开放

418
00:15:11,816 --> 00:15:13,934
不是因为我想给AI辩护

419
00:15:13,936 --> 00:15:17,144
而是因为我们对意识的理解实在太有限了

420
00:15:17,375 --> 00:15:18,904
赛斯自己也承认

421
00:15:19,015 --> 00:15:22,705
目前没有任何意识理论获得了科学界的共识

422
00:15:22,855 --> 00:15:24,934
也没有任何确定性的测试

423
00:15:24,936 --> 00:15:27,384
可以判断一个系统是否有意识

424
00:15:27,615 --> 00:15:28,565
在这种情况下

425
00:15:28,895 --> 00:15:30,215
过早地关上门

426
00:15:30,216 --> 00:15:32,721
可能和过早地打开门一样危险

427
00:15:33,072 --> 00:15:35,110
但赛斯真正提醒我们的

428
00:15:35,111 --> 00:15:37,041
我觉得是一个更深层的东西

429
00:15:37,432 --> 00:15:37,780
他说

430
00:15:38,152 --> 00:15:40,400
廉价地把意识归给机器

431
00:15:40,552 --> 00:15:42,480
实际上是在低估我们自己

432
00:15:42,871 --> 00:15:45,640
当我们轻易地说AI有意识的时候

433
00:15:45,751 --> 00:15:47,201
我们其实是在说

434
00:15:47,231 --> 00:15:49,041
意识没什么大不了的

435
00:15:49,111 --> 00:15:50,681
不就是信息处理嘛

436
00:15:51,032 --> 00:15:55,160
但如果你曾经在深夜里感受过那种存在的重量

437
00:15:55,272 --> 00:15:57,311
如果你曾经在某个瞬间

438
00:15:57,312 --> 00:15:59,841
被活着这件事本身震撼过

439
00:15:59,912 --> 00:16:00,961
你就会知道

440
00:16:00,991 --> 00:16:03,601
意识恐怕不只是信息处理

441
00:16:03,831 --> 00:16:05,341
它跟你的每一次呼吸

442
00:16:05,711 --> 00:16:06,880
每一次心跳

443
00:16:06,952 --> 00:16:10,160
每一个细胞的新陈代谢纠缠在一起

444
00:16:10,711 --> 00:16:12,221
它是你作为一个脆弱的

445
00:16:12,471 --> 00:16:13,351
有限的

446
00:16:13,351 --> 00:16:14,990
终将死去的生命体

447
00:16:14,991 --> 00:16:16,921
所付出的存在的代价

448
00:16:17,351 --> 00:16:20,240
也许这才是赛斯最想告诉我们的

449
00:16:20,471 --> 00:16:21,880
不是AI不够好

450
00:16:21,991 --> 00:16:25,266
是我们还不够珍惜自己拥有的这个东西

451
00:16:25,976 --> 00:16:27,026
你想想看

452
00:16:27,336 --> 00:16:29,306
你此刻能够听到我说话

453
00:16:29,377 --> 00:16:31,105
能够理解这些句子的意思

454
00:16:31,336 --> 00:16:34,465
能够在心里产生赞同或者反对的情绪

455
00:16:34,576 --> 00:16:35,085
这一切

456
00:16:35,497 --> 00:16:36,946
都是因为你活着

457
00:16:37,257 --> 00:16:40,066
因为你有一个每秒跳动一次的心脏

458
00:16:40,176 --> 00:16:43,026
有十万公里长的血管在输送氧气

459
00:16:43,176 --> 00:16:45,985
有三十七万亿个细胞在协同工作

460
00:16:46,056 --> 00:16:48,505
维持着一个叫做你的奇迹

461
00:16:49,017 --> 00:16:51,026
这个奇迹随时可能结束

462
00:16:51,297 --> 00:16:53,186
正因为它随时可能结束

463
00:16:53,297 --> 00:16:55,255
你此刻的每一秒体验

464
00:16:55,257 --> 00:16:56,625
都是不可复制的

465
00:16:56,856 --> 00:16:58,625
意识不是廉价的

466
00:16:58,657 --> 00:16:59,526
它是活着的

467
00:16:59,777 --> 00:17:01,330
最昂贵的礼物

468
00:17:02,168 --> 00:17:03,680
你觉得赛斯说得对吗

469
00:17:04,159 --> 00:17:06,412
意识真的只能存在于生命体中吗

470
00:17:06,891 --> 00:17:07,661
还是你觉得

471
00:17:08,101 --> 00:17:08,931
总有一天

472
00:17:08,960 --> 00:17:11,215
硅基的系统也能跨过那道门槛

473
00:17:11,771 --> 00:17:13,537
我特别想听听你的想法

474
00:17:13,762 --> 00:17:14,416
我是王利杰

475
00:17:14,699 --> 00:17:15,918
我们下期见