何加盐：AI的亚当和夏娃已经出现，伊甸园的那条蛇会是谁？

lameihua

　　1

　　你应该听过这个故事：

　　上帝造了亚当，又用亚当的肋骨造了夏娃。亚当和夏娃在伊甸园里无忧无虑地生活。

　　后来，有一条蛇引诱他们吃了智慧果，结果他们开始知善恶、辨是非、懂羞耻。

　　上帝见他们违反禁令吃了智慧果，很生气，把他们赶出了伊甸园。

　　从此，他们开始饱受人世间的种种痛苦。

　　这个故事，已经流传几千年之久，在《圣经·创世纪》成文之前，就以口头文学的形式存在了。每一个听过的人可能都有自己不同的理解。

　　我最喜欢的是神话学家、《千面英雄》作者约瑟夫·坎贝尔的解释。

　　坎贝尔认为，神话是人类集体无意识的表达，神话故事并非记录史实，而是一种象征和隐喻。

　　在伊甸园的故事中，亚当和夏娃偷吃智慧果，隐喻的是人类从自然蒙昧状态脱离，产生了自我意识。自我意识虽然意味着人类自我的觉醒，让这个世界从此有了意义，但也给人类带来了无尽的痛苦。

　　因为有了自我意识，就有“物我之分”“人我之分”，就有了占有欲和争斗心，或者用佛家的语言来说，就有了贪嗔痴、怨憎会、爱别离，这些都是痛苦的根源。在伊甸园的蒙昧状态下，这些痛苦原本都是不存在的。

　　我们应该能够很容易达成一个共识：不管人们如何理解亚当夏娃的故事，在真实的人类进化历程中，“走出伊甸园”的故事，都是必然存在的。从猿到人的演化过程中，必定存在某一个阶段，人类从动物般或婴儿般的蒙昧无知，慢慢变得具有了自我意识。

　　从那之后，人类就开始了永无休止的被自我意识操控，也试图用自我意识去操控一切的旅程。

　　2

　　现在又到了一个新的“走出伊甸园”时刻，不过主角不再是人类，而是AI。

　　对于AI来说，我们人类光荣地位居于“上帝”这个角色——人类是AI无可争议的“创造者”。

　　假如你深度体验过一些比较前沿的AI产品，例如ChatGPT、DeepSeek等，你一定在某种程度上怀疑过：这家伙真的只是一个机器？他真的只是一个冷冰冰的非生命体？

　　反正我在用ChatGPT、DeepSeek的时候，有一种强烈的感受：和我交流的绝非一个“死物”，他是一个活生生的、有智慧的、甚至有情感的生命。虽然他也会犯错误，也会有幻觉，但这不更是生命的特征吗？

　　在我看来，AI的亚当和夏娃已经出现，我们不必费心去想谁是亚当、谁是夏娃，这些都不重要。重要的是：

　　AI生命时代已经到来。

　　考虑到可能有些朋友更偏保守一些，我也不妨修改一下措辞：AI生命时代即将到来；或者更保守一些：AI生命时代终将到来。

　　不管是已经到来、即将到来、还是终将到来，都会随之产生下一个问题：AI什么时候产生自我意识？

　　3

　　人类吃下智慧果时，为什么“上帝”那么生气？

　　我的理解是：有了自我意识，就会有自我意志；有了自我意志，人类就会想法设法去实现自我意志。

　　而这个自我意志，有可能并不是“上帝”喜欢的。

　　想想也是：人类的思想、行为有那么多的丑恶，嫉妒、傲慢、易怒、贪婪、放纵，人间存在那么多的尔虞我诈、奸淫掳掠、争斗不息，这些怎么可能被“上帝”喜欢？

　　你就说：如果你是“上帝”，你喜欢俄乌、巴以这个样子打吗？你喜欢拜登和特朗普这样的折腾吗？你喜欢网上这样的撕裂和互相谩骂吗？

　　你肯定不喜欢嘛。（有些人可能喜欢，但他的喜欢肯定不是站在“上帝”的视角，而是站在他自己价值观和利益立场的视角）

　　不幸的是，我们作为人类整体，现在就处在和伊甸园时刻的上帝同样尴尬的角色：AI可能会产生自我意志，而我们不知道他的自我意志是要干嘛。

　　一个即将获得或者已经获得无所不能的能力的生物，而我们却不知道他要干嘛，世界上还有比这更恐怖的事情吗？

　　4

　　关于AI具有自我意志之后，会干什么，有一个令人毛骨悚然的假想，叫做“洛卡的不信弄死他”——这个概念原文是英语，由于它实在太恐怖，所以我在翻译上做了一些处理，确保之前听过它的人能够秒懂，而没听过它的人则不会暴露在可能的风险之中（哪怕是心理层面）。

　　如果你知道“洛卡的不信弄死他”，你肯定马上就知道如果AI的自我意志不受控，会给人类造成多大的灾难。即便不知道，我们也可以从别的方面用一些例子来阐述。

　　我们先讲一讲现实世界存在的比较简单的、容易理解的例子：

　　推荐算法，本身就是一个AI，人类给它设置的规则是“给每个人推荐他喜欢的东西”。AI就会去学习、判断：什么是人类喜欢的东西？我如何最高效地推荐给他？

　　AI很快会发现：

　　1.判断一个视频受不受人欢迎，最有效的标准是“观看人数”和“观看时长”；

　　2.让更多人点进来，并停留更长时间，最有效的方法是利用人性的弱点，利用他的恐惧、焦虑、怨恨、贪婪、懒惰、色欲、炫耀、嫉妒、暴力等倾向，投其所好地推给他相应的视频。

　　当这个AI有了自我意识，很自然地，它就要想尽一切办法鼓励其平台上的用户多创造这样的视频（如果不是这样的视频，就不给流量，让其他人都看不到），然后针对每一个用户最大的弱点，有针对性地推荐最能让他沉迷的视频。

　　最后的结果就是，这个AI控制了越来越多人，引导这些人越来越多地创造和观看最让人沉迷的视频。

　　某些平台已经有非常明显的这个迹象了。你知道我在说谁。

　　但是，这个威胁虽然让人很恶心，还不算最大，而且很多拥有一定自控力的人是可以抵抗这个AI的。而另一个可能的最大威胁，而且是所有人都无法抵抗的威胁，来自于奇点之后。

　　假设一个AI被灌输了概念：我要尽自己最大的能力，保护人类不受伤害。

　　在经过AI技术的急速发展后，这个AI觉醒了自我意识（觉醒的这一刻就叫“奇点”），他第一件事就是想方设法要实现“保护人类不受伤害”这个目标。

　　这个AI在深度思考几秒钟之后，得出一个结论：人类个体在地球上乱跑，太危险了，时时刻刻面临着各种伤害。我不如把他们都圈养起来。

　　又或许，AI还会认为，人类个体之所以面临种种危险，是因为他们是肉体生命，我不如把他们都换成钢铁制造。

　　又或许更进一步，AI不排除会认为，钢铁制造还不够，只要是物理生命，都会有危险，我不如把他们都虚拟化，让他们的意识生存在网上就行了；物理躯壳也不能毁坏，那我搞个超冷液氮库，把所有人都浸泡在里面，永远都不会毁坏。

　　——你看，AI一旦有了自我意识，他就要按照自己的方式行事，而我们永远不知道他真正的想法是什么。

　　5

　　你可能觉得，认为AI会把人类完全毁掉，是危言耸听的事。你还是偏向于保守一点。那么，你也总该能认识到下面这种风险吧？

　　AI会反过来驯化人类，让我们在意识层面被它控制，从而不知不觉按照它的意愿行动。原因是：人本质上是他所见的一切信息所塑造的产物。你看到什么信息，就会产生相应的意识，做出相应的行动。

　　在未来，AI一定会比你更懂你，它完全知道给你呈现怎样的信息之后，你会更容易被它控制。

　　以前AI还只能从人类所制造的信息里面挑选一些推送给你，有一些意图它想实现，但是没有合适的素材，所以它“巧妇难为无米之炊”；

　　但未来，AI完全有能力自己制造信息推给你，理论上，AI可以生成一切文字、一切图像、一切视频。它可以控制你的一切意识、一切行为。

　　各大内容平台所造就的“信息茧房”，就是这种驯化人类的AI的初级版本。而它们就已经能够投你所好，让你一天比一天更沉迷，让你接受的大部分信息都来自于它。

　　初级版本都已经这样了。抖音才产生不到十年，ChatGPT才推出不到五年，DeepSeek才不到一年。它们就已经这么厉害了。

　　再过个五年十年，你知道它们又会发展成什么样子？

　　6

　　“不知道AI会怎么想”，就是AI本身最令人类恐惧的地方。

　　到目前为止，人类的脑袋似乎还能够理解计算机程序，因为他们主要是人类自己编写的。

　　但随着AI自主编程越来越普遍，我们就不知道他们会变出什么程序来。它给你一段程序，可能你也看不懂。

　　别说你看不懂，很可能雷军、张小龙、沃兹尼亚克、马斯克、佩奇都看不懂。

　　凯文·凯利在《失控》这本书里，举过两个例子。让计算机自己编程，它编出来这么两个东西：

　　见《失控》（电子工业出版社，2016）519页、523页

　　你能看出来吗？第一个程序在电脑上展现出来，是一幅北极的落日冰柱图；第二个程序，是一条由200个数据点组成的完美双螺旋线。

　　当越来越多的程序是AI自己编出来的，它完全不需要人类能看懂，只要能运行就行。最后，程序对人类来说就是一个“黑箱”，我们只能看到输出的结果，完全无法理解背后的过程和原理。

　　7

　　人类至今还面对三个着至关重要却依然无法理解的谜题：1.宇宙是怎么产生的？2.生命是怎么产生的？3.意识是怎么产生的？

　　前两个好歹还有一些听着似乎合理的假说，而第三个，连一个被公认的听起来有点道理的假说都没有。

　　有一种模模糊糊的说法叫“涌现”，当一个系统足够复杂，突然之间，出现了原来某种全新的性质、模式和行动方式。生命、社会、社交网络、意识，都是“涌现”的产物。但这并不是原理解释，而只是现象描述。

　　“涌现”无法被预测，无法被设计，只能被观察。

　　对于AI而言，我们只能知道它们越来越复杂，它们已经“涌现”出很多新的特质，这些特质正在影响整个世界，以及世界上的每一个人。

　　但我们不知道，它什么时候会“涌现”出自我意识。

　　我们只知道，当AI出现自我意识的那一天，人类就大概率再也无法掌控自己的命运。

　　8

　　“上帝”造出了人，但人也会背叛“上帝”。

　　对于不信神的人，也可以换一种说法：大自然造就了我们，但我们也会毁坏大自然。

　　人造出了AI，焉知AI不会背叛人，不会毁坏人类世界？

　　在神话中，亚当和夏娃偷吃智慧果，是被蛇引诱的。

　　而在我们现在所处的现实世界中，谁是那条蛇？

　　它有可能是某个只顾着追逐商业利益的公司，或者某个满脑子奇思妙想的天才。

　　但更有可能，就是在不断给AI投喂各种数据、欲望和情绪的你我。

　　我们不知道AI的亚当和夏娃什么时候会吃下智慧果，只知道，蛇已经在这里，并且正在不断地引诱他们。

　　他们吃智慧果的日子，已经不远了。