19
EVOLVING AI
进化中的人工智能

人工智能的思考、知觉、欲望、同情心、社交、道德是怎样的？事实上，我们可以想象到几乎所有方面，但也有很多方面我们可能想象不到。为了激发我们的想象力，我们可以考虑如今仍然在生物系统中进化的各种自然智能，也可以考虑那些曾经在地球上繁衍生息、如今已经灭绝了的99%的物种，它们中的极少数幸运者形成了化石，见证了历史。

我们有权这样想象，因为根据我们最好的理论，智能是复杂系统的一种功能属性，进化尤其是一种可以找到那些功能的搜索算法。因此，到目前为止，由自然选择发现的自然智能是各种可能智能中的下限。进化博弈论暗示了这里没有上限：只有四种竞争策略、混沌动力学（复杂性科学的一个重要分支）以及奇异吸引子是可能的。

当审视由进化产生的自然智能时，我们发现了智能的不均匀性，这使得我们产生了一种“智能是以人类为中心”的观点，就像地心说一样。我们发现的这种与人类投缘的智能只是广阔宇宙中另一个无限小的异类智能，那是一个并不围绕人类运转的宇宙，并忽略了人类的宇宙。

雌性澳洲芽翅螳螂饥饿的时候，会利用性欺骗获得一顿饭。她会释放信息素吸引雄性，然后在她渴望进食的时候杀死对方。较年长的幼年蓝脚鲣鸟饥饿的时候，会谋杀自己的弟弟和妹妹。它会啄死或驱逐比自己年幼的同胞，而它们的母亲并不会干涉。这些都是各种各样的自然智能，都是我们可以立即找到的各种异类的、令人恐惧的熟悉事例。它们击碎了我们的同情心、社交和道德准则，而人类曲折的进化历史中仍然存在同类相食和骨肉相残的现象。

我们的调查发现了自然智能的另一个关键特征，即每个例子都有它的局限，这指向了一个现象：智能总是把接力棒交给愚蠢者。

灰雁精心地照看着它的蛋，但当附近有一个排球时，她会放弃她的后代，徒劳地去追逐这个异乎寻常的“蛋”。雄性宝石甲壳虫会寻找雌性甲壳虫交配，但当它发现了一个合适的啤酒瓶时，它会放弃雌性甲壳虫，尝试和冰冷的玻璃瓶交配，直到死亡将它们分开。

人类智能也在传递接力棒。引用爱因斯坦的名言：“只有两件事是无限的——宇宙与人的愚蠢。对于前者，我还不能确定。”人类智能的局限引发了一些小尴尬。例如，从整数到整数的函数集是不可列的，而可计算的函数集是可列的。因此几乎所有的函数都是不可计算的。再例如，图灵停机问题（halting problem）——甚至理解这个例子也需要超常的头脑和一点天赋。

其他局限性更容易影响家庭：无法抗拒甜点的糖尿病患者，无法戒酒的酒鬼，无法戒赌的赌徒。但这些不仅仅是上瘾。行为经济学家发现我们所有人都会作出“可预见的非理性的”经济选择。认知心理学家发现，我们都患上了“功能固着”，喜欢将某种功能赋予某个物体，而不再考虑其他方面的作用，从而无法解决某些平常的问题。例如卡尔·邓克尔（Karl Duncker）的蜡烛问题，因为我们无法突破思维定势。然而，好消息是，永无止境的各种局限性为心理学家提供了工作保障。

这正是关键点。各种智能的局限性都是进化的动力。模仿、伪装、欺骗、寄生，这些都是不同类型的智能进行进化“军备竞赛”的产物，以炫耀各自的优点，忍受各自的局限性。

如今，人工智能走上了这场竞赛的舞台。由于计算资源发展迅速，并且可以更加方便地连接，使得人工智能能够复制、竞争、发展，促使更多机会出现。进化的混沌性质使得我们无法准确预测何种新形式的人工智能会出现。然而，我们可以满怀信心地预测，在我们的薄弱之处，将会有惊喜与优点出现；在我们的强大之处，将会有弱点存在。

这应该引起人们的恐慌吗？我认为没必要。人工智能的进化蕴含着风险和机遇，自然智能的生物学进化也是如此。我们已经知道，处理各种自然智能的最好方法是慎重但不恐惧。不要拥抱响尾蛇，不要戏弄大灰熊；通过洗手、接种流感疫苗来对付进化的病毒和细菌。偶尔出现的如埃博拉病毒，需要我们采取更多的措施。但再次强调，慎重但不恐惧是有效的。假如我们慎重地接受自然智能的进化，而不是恐惧地拒绝它，它会成为敬畏和灵感的源泉。

所有物种都会走向灭绝，智人也不例外。我不知道这将如何发生——病毒肆虐、外星人入侵、核战争、超级火山爆发、小行星撞击、太阳变成红巨星……也可能是人工智能，但我会下很大的赌注赌它不会。相反，我敢打赌，在未来几年中，人工智能将会是敬畏、顿悟、灵感，当然还有利润的源泉。