39
THE COLOSSUS IS A BFG
一个“好心眼的巨人”

你想什么呢？你也许不愿意回答，但是重要的是，作为一个有意识的智能体，你有能力回答这个问题。这就是所谓的内省。你知道而且能告诉别人，你思想的舞台上正在上演什么剧情。机器呢？让智能机器说出自己的想法，它做得到吗？很可惜，至今还没有人能够设计出这样的机器。维特根斯坦曾经说过：“假如一头狮子忽然开口说人话，那我们一定听不懂它在说什么。”即便赋予机器说话的能力，它也无话可说。所以当有人问我怎么看待“会思考的机器”时，我的回答很简单：至少在现在看来，这种机器根本不存在。

当然，情况可能会很快发生变化。回顾人类历史就会发现，在漫长的自然选择过程中，当人类面临具体的难题时，拥有一个能够内省的大脑能带来很多现实优势。同理，机器程序员也许有一天能够开发出这样的软件：当机器面临相似的难题时，它们能够像人类一样去解决问题。但是这些难题是什么？意识的舞台为什么会有答案呢？

让我们来一窥意识的舞台：意识能够让你看到自己的大脑是如何工作的。比如，通过观测你的信念和欲望如何萌生愿景，而愿景再激发行动，你就会清楚为何自己会像那样思考和行动了。这样一来，你就可以向自己和他人解释你思考和行为的原理了。同时，你也有了一个可以解释他人思维和行动的模型。内省意识为心理学家所说的“心理理论”打下了基础。

对于人类而言，社交智力是生存的关键，它能带来巨大的好处。对于机器而言，暂时还没有所谓的社交生活，而且也几乎没有理由朝这个方向发展。但毫无疑问的是，机器终将需要理解其他机器的心理和行为，才能实现相互协作。再进一步说，如果它们想要高效地与人类协作，它们还需理解人类的心理。我猜这需要它们的设计者或者机器自身去跟随大自然的指引，给它们安上一双机器版本的内省之眼。

一旦发展到这个阶段，这些拥有洞察力的机器对人类的理解水平是否会超出预期，甚至引发危机？精神病患者通常不是因为对心理状态了解得太少，而是了解得太多。这是我们应该担心这些机器的原因吗？

我不这么认为，因为这不是什么新鲜事。几千年来，人类一直在对一个特殊物种的生物机器进行选择和编程，让它成为人类的仆人、伴侣和贤内助。我说的是驯养狗。而我们确实也取得了非凡的成就：现代的狗已经具备了异常出色的心理理解能力，无论是对其他狗还是人类，这种心理理解能力不逊色于除人类以外的任何动物。很显然，这进化成了一种相互合作而非竞争的关系，尽管在这个过程中，我们人类一直保持着主导地位。如果机器真的发展到能够像现在的狗一样善于理解人类的心理，我们自然会谨慎起来，以防它们变成主导和操控的角色，甚至开玩笑地说，就像我们在处理和最好的朋友时所采取的态度一样。但我认为，毫无疑问，我们会继续拥有主导地位。

西班牙画家弗朗西斯哥·戈雅（Francisco Goya）有一幅画，一个可怕的巨人大步横跨在画面中，人类惊慌而逃。“巨人”（Colossus）也是艾伦·图灵的第一批计算机的其中一个名字。我们是否需要担忧这种计算机的后代会给我们带来潜在的生存威胁呢？我认为不需要，本人持乐观的态度。运气，更确切地说是安排，会使得巨人仍是个好心眼的巨人。