AI 有意识吗?
我记事以来,人们就一直在争:机器到底能不能拥有智能。
很多科幻作家和科幻迷——包括我——都觉得这只是时间问题,迟早的事。但另一边,也有不少顶尖聪明人,论证得头头是道:机器在根本上就不可能思考,不可能有智能。他们笃信,智能是人类独有的。两边的说法看着都有道理,但最大的毛病是:谁都说不清智能到底是什么。争到最后,往往只能搬出图灵测试。可图灵测试测的,根本不是智能。
到了 2026 年,已经没人再争机器能不能变聪明了。我们还是没有智能的好定义,但现实体验就摆在眼前:大语言模型在很多脑力任务上,已经超过普通人。虽然另一些任务还不行,但它们每个月都在变强。“机器永远不可能智能”这种论调,消失了。
于是争论转移到了意识上。一批非常聪明的人坚信:AI 不可能有意识,至少现在还没有。但我对自然界和技术界的全部了解,都让我相信一件事:合成意识是可能的。我们同样说不清意识是什么,但我们已经知道,生命系统和技术系统的边界是模糊的、交叠的。所以我认为,把某些类型的意识装进机器,是迟早的事。我在上一篇随笔里写过,我怀疑今天的 Claude 身上,已经有一丝自我、一种人格、一星意识的火花。
不是所有人都同意。很多专家觉得,机器在根本上就不可能有意识:它们没有身体,没有灵魂,没有求生本能,也不经历时间。就算有,也不是人类那种意识。更多人觉得,也许遥远的未来可以,但 2026 年的大语言模型,离意识还差得远。一批又聪明、又有想象力的人,对此高度怀疑。
最近,当今最优秀的科幻作家之一特德·姜,在《大西洋月刊》上发表了一篇优美动人的文章,论证今天的大语言模型没有意识。他说,硬说 Claude 有意识,不只是错的,还是危险的:这种拟人化会让人把决策交给 AI。可 AI 没有道德,只跟着商业利益走,最终会把人带偏。
我们今天争 AI 有没有意识、能不能有意识,整场争论都笼罩在一层迷雾里:我们对意识是什么一无所知。怎么探测、怎么评估、怎么验证、怎么量化,全都不知道。但如果意识走智能的老路——我猜它会——我们最终会发现:意识不是有或无的二元开关,而是一条连续谱。很多种意识,很多种觉知,很多种程度,都排在渐变的刻度上。照这个看法,大猩猩有几种意识,海豚和狗有另几种,免疫系统这样的大系统也有微弱的一星半点,大语言模型也会有某种原始程度的意识。它不是非此即彼,也不是单一类型、单一维度。意识是多种品质的混合,每种实体的配比都不同。
我们会造出智能很高、意识很低的心智物种,也会造出意识很高、智能很低的物种,反之亦然。可能的心智空间巨大,还在膨胀;可能的意识类型空间,大概也一样大。或者,意识本身就是智能的一种。我们不知道。
特德·姜文章里的一句话击中了我。他引用神经科学家阿尼尔·塞斯的话说:
神经科学家阿尼尔·塞斯指出,没人说 AlphaFold——谷歌 DeepMind 那个预测蛋白质折叠的程序——有意识,尽管它的底层架构和 ChatGPT、Claude 这些大语言模型在很多方面很像。这说明,让人觉得大语言模型有意识的,并不是神经网络的某种内在属性;纯粹是因为大语言模型会吐出合乎语法的句子,而我们习惯了从句子里读出意图,却不习惯从氨基酸折叠的方式里读出意图。
我要说的是:AlphaFold 确实有一丝某种意识,离人类那种很远。可以叫它“分子意识”。但更重要的是,阿尼尔和特德都漏掉了我们自身意识演化史上最关键的一幕:语言。他们说的那种意识,是在我们发明语言之后才到来的。人类式的意识需要语言,语言催生了意识。直到我们能用语言的符号思考,我们才算真正有了意识。语言给了我们进入自己头脑的工具。大语言模型让我们察觉到的意识迹象比 AlphaFold 多得多,原因正在这里:大语言模型里的语言,恰恰包含了我们当年获得复杂意识所需的全部原料。
我们低估了语言的力量。几百万年前,我们发明语言,本意是和彼此交流。这项创新带来了紧密的合作协作,给了人类巨大的演化优势,进而创造了强韧的文化和更强的应变能力,又反过来催生更多交流。能用语言交流,是人类演化的头号加速器。
但语言更大的影响还不在这儿。语言最大的好处,不是让我们能和别人交流,而是让我们能和自己交流。语言让我们进入了自己的头脑。它让我们得以摆弄自己的想法:反思、调用记忆、预测未来。它让念头有了形状。语言带来内省,带来自我改进。试着把词语从你的脑子里拿走看看:亲密的自我觉知、道德感、目标感,都会随着语言结构的消失一起坍塌。情绪、反射、本能还在,但我们称之为意识的那种精致状态,没了。
说清楚,语言不只是嘴上说出的话。先天失聪的人有意识;失语症患者虽然说不出话,也保有自我。但没有语言的符号和句法,反思性、自传式的内在成长那一层意识,就长不出来。
语言和意识在我们身上缠得太紧,几乎就是一回事。所以,当我们给一种 AI 装上强大的语言能力,却不给另一种装,再发现前者显出意识的某些侧面,有什么好奇怪的。
足斤足两的工业级意识,未必总是好事。有些心智,我们压根不希望它有意识。自动驾驶汽车的那个“司机”,你想让它有意识吗?为了安全,我们可不想它一边开车一边纠结当年该不该学化学。我们只想让它好好开车。
这场“AI 有没有意识”的争论,会是一场持久战。沿途的追问,会让我们对自己的意识也产生更多不确定。这场对意识本质的大调查,会带来神经科学、心理学、哲学史上最大的进展。未来 25 年,我们对自己的了解,会超过过去 25000 年的总和。一百年后,我们对“人是什么”的想法,会完全不同。