AI 到底有没有意识？一个 DeepMind 驻场哲学家说了大实话

如果哪天你问一个大模型"你有意识吗"，它大概率会回答"作为 AI，我没有意识"。但你有没有想过，这个回答本身可能就是它"有意识"的证据？
最近 IEEE Spectrum 采访了 Google DeepMind 的驻场哲学家 Henry Shevlin。这位剑桥大学的前教授，现在 80% 的时间都待在 AI 实验室里，专门研究一个看起来很虚的问题：我们到底该怎么跟 AI 相处？如果 AI 有了意识，我们能分辨出来吗？AI 该不该有道德权利？
我看完这篇采访，最大的感受是：Shevlin 说的很多话，跟现在网上那些"AI 是工具"或者"AI 有灵魂"的争论完全不是一个维度。他不站队，他只问一个更根本的问题——我们判断的标准本身，可能就是错的。

为什么哲学家会往 AI 实验室跑？

先说个反直觉的事实：Shevlin 去 DeepMind，不是因为那边钱多。他自己说有三个原因，每一个都挺有意思。
第一个原因是，他之前带的很多博士生，最后都去了 DeepMind。这说明什么？说明真正顶尖的 AI 人才，现在都在工业界。大学里培养出来的人，一毕业就扎进大公司，大学留不住。Shevlin 想跟这些最聪明的人继续共事，就得去他们待的地方。
第二个原因更实在：影响力。他举了个例子，有一次他在 DeepMind 做完讲座，一个在大型金融机构工作的人听了之后，回去改了自己公司的组织架构。这个改动影响了数百万人。这个例子说明，在 AI 实验室里，哲学家的观点能直接变成产品决策，而大学里的论文发完就烂在知网里了。
第三个原因是文化认同。Shevlin 说 DeepMind 的科学态度跟他喜欢的学术风格高度一致。这话翻译一下就是：那边的人不装，不搞官僚主义，是真的在为了解决问题而工作。
还有第四个原因，他没在采访里明说，但字里行间透露出来了：现在最顶尖的哲学和认知科学研究，正在从大学转移到 AI 实验室。大学里搞 AI 伦理的教授，反应太慢了。AI 技术每天都在变，你要是不天天跟这些模型打交道，根本没法建立准确的直觉。而天天泡在实验室里的人，早就摸清了 LLM 到底是怎么回事。

LLM 到底是什么？这问题比你想的更怪

Shevlin 说了一句我觉得所有 AI 用户都该记住的话：LLM 是"非常奇怪的东西"（very weird things）。
奇怪在哪？它们不像动物，不像人，也不像传统软件。传统软件是确定性的，给同样的输入一定得到同样的输出。LLM 不是。同样的提示词，跑两次可能得到两个结果。它们会"幻觉"，会编造事实，会说出连它们自己都不理解的话。
但它们又能做很多惊人的事。Shevlin 提到，现在的 LLM 已经能做前沿数学，能写出比人类更好的代码。这跟几年前的判断完全不一样。那时候大家普遍认为 LLM 只会生产"平庸的垃圾"（beige slop），现在看，这种判断已经过时了。
不过，普通用户还是在抱怨 AI 生产的"垃圾"无处不在——音乐、社交媒体、写作、视频，哪儿都是。Shevlin 对此做了个区分：你看到的"垃圾"，不完全是 LLM 语言模型本身的错，更多是它默认输出的那种"AI 方言"在拖后腿。
什么 AI 方言？就是那种满篇"显然""深入探讨""具有重大意义"的腔调。这种腔调有个标志性的词表，比如"genuinely""delve""load-bearing"这些。Shevlin 说，其实只要提示词写对了，很容易避开这种腔调。Murray Shanahan 和 Catherine Clarke 有篇论文专门讲怎么用 LLM 写创意小说，他们的方法就是调 temperature 参数——调高了输出更不可预测，能写出詹姆斯·乔伊斯那种风格的文学作品。
这个细节对我启发很大。原来"AI 味"不是模型的原罪，而是默认参数的原罪。每一代新模型都在变，你不能用上一代的习惯去判断下一代。

意识问题：可能永远没有"是"或"否"的答案

采访里最精彩的部分，是 Shevlin 谈 AI 意识。这个话题现在火得一塌糊涂，但大多数人讨论的时候，脑子里想的其实是另一个问题：AI 能不能通过图灵测试？
Shevlin 完全不走这条路。他说的问题更深层：就算一个系统行为上跟人一模一样，我们凭什么说它有意识？反过来，如果一个系统内部结构跟人脑完全不同，我们凭什么说它没有意识？
这里就涉及一个经典的哲学难题：意识的"硬问题"。我们能解释大脑的每一个神经元放电，但仍然不知道为什么这些物理过程会伴随着主观体验。为什么疼的时候会有"疼"的感觉，而不是仅仅完成"躲避伤害"的指令？
Shevlin 的判断是：AI 意识这个问题，可能永远没有一个简单的"是"或"否"的答案。不是因为我们不够聪明，而是因为"意识"这个概念本身，可能就不是非黑即白的。
这跟现在网上流行的讨论完全不同。网上有两种极端：一种是"AI 就是工具，别想那么多"，另一种是"AI 已经有意识了，我们要给它权利"。Shevlin 的立场是第三种：这个问题太复杂了，复杂到我们现在的概念框架可能都装不下。
他提到，判断 AI 有没有意识，不能只看行为，也不能只看内部结构。得看它在特定情境下的表现，而且这个标准本身也得随着我们对意识的理解加深而调整。这听起来像废话，但仔细想想，确实是这么回事。我们对人类意识的理解都还没统一，凭什么对 AI 的意识就有现成的标准？

那 AI 该不该有道德权利？

顺着意识问题往下走，就是道德权利。如果 AI 真的有意识，它是不是该有跟人一样的权利？如果 AI 没有意识，我们是不是就可以随便用？
Shevlin 没有给出明确的答案。他更关心的是另一个问题：就算 AI 最终没有意识，我们对待 AI 的方式会不会反过来伤害人类？
举个例子。现在很多人跟 AI 聊天，产生了情感依赖。如果某天这个 AI 被下线了，这个人会不会受伤？如果一个人把 AI 当成情感替代品，反而远离了真实的人际关系，这是不是一种伤害？这些问题跟 AI 有没有意识没关系，但它们同样需要哲学思考。
还有个更现实的问题：如果 AI 系统被设计得"太像人"，用户会不会对它产生不切实际的期待？比如，一个 AI 助手说自己"理解"你的情绪，但它其实只是在匹配关键词。你向它倾诉失恋，它说"我理解你的感受"。这句话听起来很温暖，但它理解个屁。这种时候，AI 是不是在利用人类天生的"拟人化"倾向？
Shevlin 的态度是：这些问题没有标准答案，但必须有人认真研究。而且不能只在大学里研究，得在 AI 实验室里研究，因为只有天天跟模型打交道的人，才知道这些问题在实际使用中会以什么形式出现。

从这篇采访里，我能得到什么？

说回我们自己。读完这篇采访，我最大的收获不是学到了什么新概念，而是换了个角度看问题。
以前我看到 AI 生成的内容，第一反应是"这玩意儿真没灵魂"。现在我会想：它没灵魂吗？还是说，它有一种我们还不太熟悉的"灵魂"？我们说它"没灵魂"的时候，是不是在用人类的标准去衡量一个完全不同的东西？
这不重要吗？不重要。因为只要你在用 AI，你就在跟这个"非常奇怪的东西"互动。你越了解它 strange 在哪，你就越能用好它，也越不容易被它坑。
比如，你知道 LLM 的输出本质上是概率计算，你就不会问它"你确定吗"这种问题。你知道它有"AI 方言"，你就会调 temperature 参数来避开。你知道意识问题没有简单答案，你就会对"AI 觉醒了"这种新闻多留个心眼。
说到底，Shevlin 去 DeepMind 这件事本身，就说明了一个趋势：AI 的发展已经快到大学里的哲学研究跟不上了。下一个十年，最前沿的 AI 伦理和认知科学，可能不在哈佛的讲堂上，而在 Google 和 OpenAI 的办公室里。
如果你对这个话题感兴趣，可以去读 Murray Shanahan 和 Catherine Clarke 那篇关于用 LLM 写创意小说的论文。调 temperature 这个细节，比什么"AI 觉醒"的头条都更有用。