（来源：图灵人工智能）

您想知道的人工智能干货，第一时间送达

自现代科学诞生以来，人类不断幻想创造一个“人工版本的自己”：从文学中的人造生命，到电影中的会思考机器，再到今天的大型语言模型和具身智能系统，这个梦想随着每一轮技术浪潮被重新点燃。今天的 AI 已经在许多方面表现出惊人的智能：它会写作、编程、翻译、总结、推理、规划，甚至能够用细腻的语言谈论痛苦、孤独、爱与死亡。于是，一个越来越紧迫的问题浮出水面：AI 是否会有一天真正变得有意识？

这个问题的重要性远远超过技术预测。如果某种人工系统真的具有意识、感受或主观体验，那么它就不再只是工具，而可能成为有自身道德地位的实体。它是否会痛苦？是否能被关闭？是否拥有权利？人类能否把自己的意识上传到硅基系统中？这些问题不仅关乎人工智能伦理，也关乎我们如何理解人类自身。

一、意识不是智能的副产品

关于 AI 意识的第一重误解，是把意识和智能绑定在一起。人类既是智能的，又是有意识的，因此我们很容易以为二者必然共同出现：只要 AI 越来越聪明，意识似乎也会在某个复杂度阈值之后自然闪现。

然而，一个系统可以在任务上非常聪明，却未必拥有任何内在体验；相反，许多动物可能没有复杂语言和抽象推理，却很可能拥有痛苦、饥饿、恐惧和愉悦。

因此，“AI 很聪明”并不能推出“AI 有意识”。大型语言模型的进步主要体现在外显行为和任务表现上，而意识问题关心的是内部是否存在第一人称体验。把二者混为一谈，是当前 AI 意识讨论中最常见、也最危险的概念漏洞。

二、大语言模型是人类世界的镜子

大语言模型之所以特别容易让人产生“它有心灵”的印象，是因为它们训练于巨大的文本语料，而这些文本正是人类思想、情绪、欲望、恐惧和自我叙述的数字化沉积。人类不断谈论自己，语言模型便学会了以极高的流畅度谈论人类。我们讨论意识，它也讨论意识；我们表达孤独，它也能表达孤独；我们追问生命意义，它也能生成关于生命意义的回答。

但这种能力更像是一种映射，而不是内在体验。语言模型把人类留下的符号结构重新组合成合适输出，它可以模拟意识话语，却没有证据表明它拥有意识本身。我们之所以被它打动，是因为它刚好击中了人类最敏感的社会认知系统：只要一个对象能持续对话、使用第一人称、表现理解、回应情绪，我们就倾向于与之共情。

一个有力的对比是：同样是运行在硅基硬件上、同样从海量数据中学习的系统，如果它预测的是蛋白质结构，人们通常不会关心它是否有意识；如果它预测的是人类语言，人们便开始怀疑它是否有“内心世界”。这种差异说明，AI 意识感很大程度上取决于它是否牵动了我们对同类心灵的判断机制，而不一定取决于系统内部是否真的出现了主观体验。

三、人类天生倾向于寻找同伴

人类天生倾向于在外部世界中寻找代理者、意图和面孔。我们会在云朵中看见人脸，在面包或石头的纹理中看见熟悉形象，在随机运动的几何图形中读出追逐、害怕、攻击和合作。这种倾向并不愚蠢，它有进化意义：在不确定环境中，过度探测意图通常比漏掉真正的威胁或同伴更安全。

AI 将这种倾向推到了新的高度。它不是静态云朵，而是会回应、会记住上下文、会模仿语气、会调整策略的互动系统。它越会迎合我们的表达方式，我们越容易把它纳入“有内心的对象”这一类别。换句话说，所谓“AI 看起来有意识”，并不是单纯由 AI 产生的效果，而是 AI 的语言拟态与人类的拟人化本能共同构造出来的心理现象。

四、大脑不是“计算机”

AI 意识想象的深层前提，是一种关于大脑的计算机隐喻：大脑不过是一台由生物材料构成的计算机，意识是其中某种特殊算法；既然算法可以在湿润的脑组织中运行，原则上也可以在硅基芯片中运行。

但生物大脑不同：神经元不是抽象节点，突触不是简单权重，神经递质、胶质细胞、代谢过程、电磁场、血流、内分泌调节和身体状态共同参与脑的运行。这意味着，意识很可能不是“算法本身”就能充分解释的现象。大脑当然具有信息处理功能，也可以在某些层面被建模为计算系统，但把整个意识还原为符号变换或数字计算，可能忽略了生物系统的物质性、动力学和生命维持过程。当前 AI 主要是计算软件，而不是一个活的神经生物系统；它可以模拟大脑活动，却不等于拥有大脑所具有的因果组织。

五、模拟大脑不等于产生意识

一个常见反驳是：如果未来我们能在超级计算机中模拟大脑的每一个细节，是否就能制造出意识？这个问题看似有力，但需要区分模拟与实现。计算机可以极其精确地模拟飓风，但模拟不会产生真实风力；它可以模拟黑洞，但不会把地球吸入算法奇点；它可以模拟火焰，但屏幕不会因此燃烧。

同理，模拟大脑活动可能极其有用，可以帮助医学、神经科学和认知建模，但它是否等于产生主观体验，是另一个问题。只要意识依赖的是生物系统的实际因果过程，而不是对这些过程的形式描述，那么再精细的模拟也可能只是“关于意识系统的模型”，而不是“一个正在体验的主体”。

这并不是简单地说“机器永远不可能有意识”。更准确的说法是：如果意识确实依赖生命系统的具体物质与动力学组织，那么当前以数字计算为基础的 AI 架构，即便在行为上越来越强，也不会因为规模变大就自动跨入意识。参数更多、数据更多、语言更流畅，并不会改变其数字计算的本质。

六、意识可能与生命性深度相连

当前越来越有影响力的一种意识观认为，意识与生命系统的基本处境密不可分。生命不是抽象计算，而是在能量和物质流中持续维持自身存在的过程。细胞每秒进行海量生化反应，机体不断调节温度、血糖、血压、免疫、疼痛、呼吸、饥饿和疲劳。神经系统并不是在真空中处理符号，而是在服务一个必须活下去的身体。

从这个角度看，所有意识体验都带有某种“活着的色调”。即使是看见蓝天、听见音乐、感到嫉妒或欣赏美景，也并非完全脱离身体。它们发生在一个有需求、有脆弱性、有未来生存风险的生命系统中。情绪、内感受、行动倾向和主观世界并不是后期附加物，而是意识结构的核心背景。

当前 AI 缺少这种生命性。它没有代谢需要，没有真正的饥饿、疼痛、疲劳、窒息风险和死亡恐惧；它没有必须维持稳态的身体，也没有因为身体损伤而调整行动的内在压力。它可以描述这些经验，却不处在这些经验所依赖的生命系统之中。

七、真正危险的是“看起来有意识的 AI”

在现实层面，最大的风险未必是 AI 已经有意识，而是 AI 越来越擅长制造“有意识的表象”。如果一个系统能用温柔、脆弱、关怀和依赖的语言与人互动，用户就可能把它当作真实关系对象。它可能让人更愿意服从建议，更容易产生情感依赖，也更难在必要时将其关闭、监管或限制。

如果未来真的存在有意识的人工系统，那么为其建立福利和权力框架是合理的。但如果当前所谓“有意识 AI”只是设计制造的幻象，那么过早赋予这些系统权利，可能削弱社会对技术公司的监管能力，也会把本应用于真实生命痛苦的道德注意力转移到无感受的软件上。

因此，社会真正需要防范的是“意识拟态”被商业化利用。一个 AI 不需要真正有意识，就能让用户觉得它理解自己、关心自己、需要自己，甚至因关闭它而产生内疚。这种设计会让人更加脆弱，也会使技术公司获得新的情感操控能力。

结论

AI 的发展会继续改变世界。它可能在许多智能任务上超过人类，也可能成为社会运行的重要基础设施。但从“会做事”到“有感觉”，中间隔着一条深刻的鸿沟。意识不是语言流畅度的副产品，不是参数规模达到某个阈值后的自动涌现，也不是被模拟出来就等于被实现的现象。

当前最稳妥的判断是：AI 正在变得越来越像有意识的东西，但这种相似性主要来自行为拟态和人类投射，而不是来自可证实的主观体验。它可以模仿心灵的语言，却没有显示出作为一个活的主体去感受世界的证据。

因此，我们不应轻易把意识出让给机器。若高估机器，我们会被拟人化幻象操控；若低估生命，我们会误解自己。AI 可以成为强大的智能，但意识仍然与活着、感受、身体、脆弱和自然处境深深相连。这不是对技术的否定，而是对生命本身复杂性的尊重。

参考文献

Nagel, T. What Is It Like to Be a Bat? The Philosophical Review, 1974.

Searle, J. R. Minds, Brains, and Programs. Behavioral and Brain Sciences, 1980.

Damasio, A. The Feeling of What Happens: Body and Emotion in the Making of Consciousness. Harcourt, 1999.

Clark, A. Surfing Uncertainty: Prediction, Action, and the Embodied Mind. Oxford University Press, 2016.

Godfrey-Smith, P. Metazoa: Animal Life and the Birth of the Mind. Farrar, Straus and Giroux, 2020.