11
THE SINGULARITY—AN URBAN LEGEND?
奇点—一个都市传奇？

奇点，即人工智能超越人类并接管世界命运的瞬间，是一个值得我们深思的模因。它有点儿都市传奇的意味，一方面有科学的合理性（“从原理上看，似乎是有可能的”）；另一方面，它听起来又像个冷笑话（“我们竟然会被机器人统治”）。但类似的事情也确实存在，比如，你如果同时打喷嚏、打嗝和放屁的话，你会没命的！在经过了几十年对人工智能的炒作之后，你也许会认为奇点只是恶搞，只是个笑话而已。但是，它正一点点地自证其名。而且，像埃隆·马斯克、斯蒂芬·霍金、大卫·查默斯这些杰出天才都在警告奇点的危险性，我们又怎能不重视？不管这惊人的一刻发生在10年、100年还是1000年以后，我们难道不应该提前做好准备，做好必要的预防措施，并留意预言的灾难后果吗？

我认为情况正相反，以上危险警告分散了我们的注意力，让我们忽视了一个更加紧迫的问题。这是一场即将发生的灾难，无须摩尔定律的帮助，也无须理论进一步突破到接近引爆点的程度：经过数个世纪对大自然的来之不易的理解，我们有史以来首次能够在多方面掌控自身的命运，但是现在，我们却要把这种掌控权让位于不会思考的人工智能体，贸然地把我们的文明切换到自动航行模式。这个过程是阴险狡诈的，因为每一步都让我们先感受到明显的好处，以至于我们无法拒绝。

◎现在的计算机已经非常强大可靠了，今天你如果还用笔和纸去做大量的算术计算的话，那就显得太愚蠢了，因为用计算器要快得多，而且几乎是完全精确的（不要忘了舍入误差）。

◎既然列车时刻表已经可以立即出现在智能手机上，我们又何必再去记它们呢？

◎不要再看地图了，导航到你的全球定位系统（GPS）吧，它虽然没有意识，也不能进行有意义的思考，它却能比你更好地跟踪你的位置或引导你到想去的地方。

更进一步看，现在的医生也在逐步依赖比人类诊断更加可靠的诊断系统。当遇到生死攸关的治疗时，你希望医生否决掉机器的诊断结果吗？IBM的超级计算机沃森是这方面应用最具说服力的例子，至于沃森是不是一个合格的思考者，那是另外一个问题。如果沃森能够利用已有数据，作出比人类专家更精确的诊断，那么我们就会更信任、依赖它的结果，而那些藐视它的医生则有可能惹上医疗官司。对于这种增强版的智能假体而言，没有哪个人类领域是它们所不能涉足的。而无论在哪个领域，一旦它证明了自己，人类就会一如既往地接受它、相信它。手工制作也可以逐渐占据手工陶器和手工针织毛衣等利基市场。

在人工智能发展的早期，人们努力尝试着对人工智能和认知模仿（cognitive simulation）作出严格的区分。前者被视为工程学的分支，只是要千方百计地让机器有效地运转起来，而无须模仿人类思考的过程，除非它有助于提升工程的效率。而后者则不同，认知模仿是由计算机模型主导的心理学和神经科学的范畴。一套认知模仿模型如果能够清晰地辨识并展示出人类的错误或困惑，就会被视作胜利而非失败。虽然还有人坚持这种划分，但是在公众的认知中，早已没有这种区别。对于大众而言，人工智能就是能通过图灵测试的类人机器。最近在人工智能领域取得的突破，原因之一是，它很大程度上脱离了（我们认为自己已经理解的）人类的思维过程；其二是利用超级计算机强大的数据挖掘能力，挖掘有价值的联系和模式，而不是试图让它们明白自己在做什么。具有讽刺意味的是，这种傲人的成绩却重新引发了认知科学家的兴趣。他们发现，在数据挖掘技术和机器学习的帮助下，我们能够更好地了解大脑是如何完成它“创造未来”的出色工作的。

不过，在大众看来，任何能够实现最新人工智能成就的黑盒子，都会被想象成跟人类一样的智能体。而实际上，盒子里面不过是一堆横截面奇形怪状的二维构造。它们会精确地使用自己的能量，不会增加如人类心智那样的日常消耗，例如分心、焦虑、情感承诺、记忆、忠诚等。因此，它并不是什么类人机器人，不过是一个没头脑的奴隶、一个最新式的自动驾驶仪罢了。

把思考这种辛苦的工作移交给人工智能这种高科技，到底有何不妥呢？其实，只要能做到以下两点，就不会有什么问题：一是不要自欺欺人；二是要在某种程度上保持我们自身的认知能力不衰退。

◎设想（并牢记）这种能够作为人类宝贵助手的实体的局限是非常困难的，而且人们总是倾向于过度赋予它们理解能力。自从20世纪60年代约瑟夫·魏泽堡（Joseph Weizenbaum）臭名昭著的“伊莉扎”计划以来，人类就一直致力于提高计算机对自然语言的理解能力。这是有巨大风险的，因为我们总是要求它们完成其力所不能及的事情，而且又对它们的输出结果过度信任。

◎要继续使用它们还是抛弃它们的问题。当我们越来越依赖这些智能机器后，一旦它们瘫痪了，我们将面临孤立无援的巨大风险。就好比互联网，虽然它不是一个智能体（在某些方面是），但是当它崩溃时，几天之内我们就会陷入恐慌。这足以让我们惊醒，并提前做好预防措施，因为这可能随时会发生。

因而，真正的危险并不是智能机器会强大到篡夺人类的统治权，而是因为愚蠢的机器被人类赋予了远超出它们自身能力的权利。

注：丹尼尔·丹尼特的《直觉泵和其他思维工具》即将由湛庐文化策划出版，敬请期待。