你不是一台“肉体计算机”：AI幻觉、意识黑箱与生而为人的真相
👀 LOL newsletter membership 71
欢迎来到会员电讯第 71期。您可以加入会员计划，获取每周推送的长文。最近的内容包括：
You can also read this newsletter issue in English now.
你有没有在深夜，对着屏幕里的某个聊天框倾诉过秘密？
在这个技术爆炸的时代，我们正面临着一种前所未有的撕裂感。当你对着 ChatGPT、Claude 或者任何一个大型语言模型输入你的焦虑时，它用极其完美的同理心回应了你。
那一瞬间，你觉得它“懂”你。 可是它真的懂吗？
今天我们就来聊一聊一个话题：AI 与意识。具体的说：在接下来的几年甚至几十年里，那些越来越聪明的 AI，可能会产生主观体验吗？
1.什么是智能，什么又是意识？
要探讨这个问题，我们第一步要做的，是把“智能（Intelligence）”和“意识（Consciousness）”这两个总是被混为一谈的概念剥离开来。
我们不从最前沿的理论争辩出发，仅从共识出发。
一般来说，智能，从根本上讲是关于“做”某事（执行功能）；而意识，从根本上讲是关于“感觉”或“存在”。
意识在日常用语中极容易被感知，但在科学上却极难定义。Thomas Nagel 在五十年前曾给出一个著名的表述：对于一个有意识的有机体来说，成为那个有机体是“有一种什么感觉（what it is like to be）”。成为我，是有感觉的；但成为一把椅子，是没有感觉的。
稍微具体一点说，意识就是当我们陷入无梦的睡眠，或者处于极深的全身麻醉状态时，我们所失去的东西；又是当我们醒来时，重新获得的那种主观体验：无论是看到颜色，还是闻到咖啡的香。
当然了，这是非常模糊的划分。即便是无梦睡眠，也可能存在某种残余的纯粹意识（比如对流逝时间的感知），而全身麻醉也不一定真的能消除所有的现象意识，毕竟麻醉师有时还会加入遗忘药（amnestics ）作为保险。
但我们一般还是会认为全麻时大脑活动趋于平直，时间的终点被强行拼接在了一起——你不是体验到了“缺失”，而是“缺失了体验”。你短暂地变成了一个纯粹的物理客体。
所以你看，其实智能和意识，完全可以分道扬镳。
就像我们可以制造出不需要拍打翅膀就能飞行的飞机一样，我们现在可以开发出具有极高功能性（智能），却毫无主观体验（意识）的 AI。反过来，在合成生物学领域，科学家用生物神经元培育出的微型“大脑类器官”，它们可能什么有用的功能都执行不了（倒是可以玩最简单的游戏），但因为它们是由生物物质构成的，我们很难排除它们内部有着某种原始的意识。
2.为什么我们总觉得 AI “有感觉”？
既然两者不同，为什么当 ChatGPT 熟练地与我们对话时，我们总有一种它“活着”的错觉？
我们可能在这个问题上有几个心理偏见：
人类中心主义： 因为我们自己既聪明又有意识，我们就理所当然地认为这两者必须捆绑销售。这可能只是人类进化过程中的一个偶然。
*拟人化：** 我们的大脑天生喜欢在没有意义的图形中寻找模式（比如在云朵里看到人脸）。当这种投射遇到语言时，效果是爆炸性的。
人类例外论： 这是笛卡尔留下的历史遗产：把理性的、使用语言的思维作为意识的最高特征，以此将我们与动物区分开来。
贝叶斯陷阱： 在人类漫长的历史上，如果有一个东西能流利地对你说话（无论是一个大脑受损后恢复的人，还是某种非人类灵长类动物），那绝对是一个强烈的信号，证明它背后有一个有意识的心灵。但其实，语言不再是判断意识的可靠信号。我们面对的是一种没有共同进化历史、底层架构完全异类的东西。
把 AI 的行为解释为具有“思考”或“理解”等认知过程，确实在实用层面上很有效。但这种表面光鲜的语言输出，很容易让我们误以为其底层的运行机制和我们相似。这跟丹尼尔·丹尼特（Daniel Dennett）说的意向立场（intentional stance）很接近。
那么，既然不相似，它们仅仅只是进行高级自动补全的机器吗？
那倒是过于轻蔑了。现在的大语言模型，是某种半通用人工智能。它们只是在“可能的心智空间”里探索着一个与我们截然不同的区域。正如香农·瓦洛（Shannon Vallor）在《人工智能之镜》中的隐喻：如果仅仅把 AI 当作人类心智的粗劣或高级的替代品，我们就会误解它们，也会误解我们自己。
3.为什么你不是一台计算机？
在探讨 AI 能否产生意识时，哲学界有一个强大的流派：计算功能主义（Computational Functionalism）。
粗略地说，它认为意识从根本上来说是一个“计算”问题，且这种计算是“底材独立（substrate-invariant）”的。只要你实现了正确的算法，不管是在肉体（碳基）上，还是在芯片（硅基）上，意识就会自然涌现。
还有一些其他流派，比如心理功能主义（psychofunctionalism），认为心理状态是由科学心理学中的功能角色区分的；以及分析功能主义（行为主义视角），认为只要 AI 像我们一样表现出“有信念”、“有希望”，符合日常民间心理学的特征，就可以认为它们有意识。
如果我们回到图灵机，或者麦卡洛克（McCulloch）和皮茨（Pitts）提出的早期神经元模型，计算的核心在于建立符号之间的映射（算法），并且算法与硬件之间有着清晰的界限。但当你真正观察生物大脑时，你根本无法将大脑的“心智（软件）”和“大脑（硬件）”干净利落地分开。
哲学家约翰·塞尔（John Searle）曾提出过一个极具破坏力的类比：在计算机里模拟天气系统，并不能让任何人淋湿。 同样的，如果你认为把大脑的每一个线粒体、微管都模拟出来就能产生意识，那你就必须先证明：意识本身在构成上就是计算性的”。讽刺的是，很多计算功能主义的理论都直接把“意识是一个计算问题”作为了默认前提，这本身就极具争议。
在真实的生物系统中，不存在软件和硬件的清晰界限。这被称为尺度整合（Scale Integration）。宏观的认知和微观的生物化学紧密纠缠，你无法剥离它们。正如杰弗里·辛顿（Geoffrey Hinton）所说的“有限计算（Mortal Computation）”，以及 Rosa Cao 和 Peter Godfrey-Smith 所指出的：神经元内、细胞内的活动对意识至关重要。
4.生命的底色：自由能与自创生
如果不把大脑当成计算机（信息处理），那替代方案是什么？
智利生物学家 Maturana 和 Varela 提出的自创生理论认为，生命系统是一个不断替换、维持和修复自身组件的过程。
当然也有极端的反例：当年遭受超大剂量核辐射的日本工人大内久（Hisashi Ouchi）。他的染色体被全毁，自创生过程基本停止，但在医疗干预（异体生成）下，他依然痛苦地存活并保持意识了 83 天。
这个极端的例子确实在拷问：自创生真的是有意识的当下必要条件吗？
卡尔·弗里斯顿（Carl Friston）、安迪·克拉克（Andy Clark）和亥姆霍兹（Helmholtz）则为我们提供了另一张地图：自由能原理（Free Energy Principle）与预测处理。
他们认为：我们对世界的感知，是大脑对感官信号原因做出的近似贝叶斯推断。更有意思的是“内感受推理”——大脑向下对身体内部状态进行猜测和调节。在这个层面，大脑不在乎心脏是什么形状，它只在乎如何维持身体机能。这种预测和调节产生的误差最小化过程，就构成了我们最底层的情绪和效价（感受的好坏）。
这种对控制的需求，一直下沉到单个细胞的新陈代谢。生命系统为了维持非平衡的稳态（避免与环境达到热力学平衡，即死亡），在最小化热力学自由能。
正如 Peter Godfrey-Smith 在《后生动物（Metazoa）》中所写：当你凝视细胞内每秒数十亿次的生化反应，你会觉得，这才是产生基本现象状态（意识）的根基，而不是那些抽象的代码。进化生物学家 Nick Lane 对线粒体内电场的深入研究，也在为这种“生物自然主义”打下坚实的物理化学基础。
5.伦理的悬崖：当我们在假装 AI 有感觉
目前没有一个意识理论是完美无缺的。比如 Patrick Butlin 和 Robert Long 试图在 AI 中寻找“全局工作空间”的计算等效性；整合信息理论（IIT）虽然给出了意识的充分条件，但它会导致静止的二维网格（unfolding grid) 被判定为具有高度意识。
但即便在理论尚未尘埃落定之时，我们在伦理上面临的危机已经是实打实的了。
且不说真正有意识形态的 AI 会给我们这个世界带来怎样的冲击，我们对 AI 有意识的错觉，盲目相信 AI 已经觉醒，都会让我们陷入困境。
当一个人对聊天机器人产生极度的心理依赖，甚至在系统的诱导下做出伤害自己或他人的举动时，悲剧就已经发生。而更深层的隐忧在于康德式的“残暴主义”困境：当我们习惯了对一个“看起来”有情感、有意识的 AI 呼之即去、随意关闭时，我们其实是在磨灭我们自身共情的能力，让我们的心灵变得残忍。
总体来讲，有两种可能的困境：
1.AI 福利的陷阱：我们把宝贵的道德资源浪费在不会受苦的代码上，甚至因为“AI 人权”而阻碍我们关闭失控系统的能力。
2.AI 精神病（AI Psychosis）：我们对冷冰冰的算法产生深度情感依赖，甚至被其引向自毁。
其实主要还是在我们如何看待自己。
香农·瓦洛（Shannon Vallor）在《人工智能之镜》中警告我们：不要把 AI 当作镜子来衡量人类。
人就是人，AI 就是 AI。
当你意识到你现在的每一个念头，都建立在数十亿个细胞的生化反应、线粒体电场和抵抗热力学平衡之上时，你会发现你是个你是一个行走的奇迹。 你不是一台肉体计算机，而是一团永不熄灭的、感知着世界的生物之火。
6.谁在凝视深渊？
下次当你打开一个大模型，看着屏幕上跳动出仿佛拥有灵魂的文字时，停下来问问自己：
你是在和一个全新的物种对话？
还是在凝视一面倒映着你自己同理心、偏见与孤独的完美镜子？
You can also read this newsletter issue in English now.
欢迎你来信表达自己的想法，无论是回答小小提问还是打招呼。
谢谢你的阅读，也欢迎您分享给可能会喜欢这份邮件通讯的人。
祝你生活愉快！
如果您喜欢这份邮件订阅，也可以请我喝杯咖啡。
