18
SOFT AUTHORITARIANISM
思考不是你的工作

“思考？思考不是你的工作！在这里，我负责思考。”

——智能非思考系统对智能思考系统说

会思考的机器正向我们一步步靠近。尽管如此，我们现在还是先来讨论智能工具吧。智能工具不会思考，搜索引擎不会思考，机器人汽车也不会，而我们自己也经常处于“大脑空白”的状态。和其他动物一样，我们人类通常开着“自动挡”生活。一般情况下，我们的老板不希望我们有野心，否则，我们就会给他带来不可预知的“威胁”。如果在开自动挡的时候，由机器来代替我们思考，那我们就有麻烦了。

假定“思考”一词指代任何一种人类大脑活动。专家称思维机器为通用人工智能，他们认为这种机器将会给人类带来灭顶之灾。注意，灭顶之灾不仅仅是一种存在性的风险。在智能专家尼克·波斯特洛姆看来，生存危机指的是能“灭绝地球上最初的智能生物或是永久并彻底地缩减它的潜能”。例如，已是老生常谈的核战争威胁，新近出现的失控性全球变暖，比较冷门的有粒子对撞机事故，以及最近越来越热的通用人工智能。尽管存在上述这些威胁，但在未来几十年，最大的威胁则会来自无思想的智能，以及大多数决定都未经慎重思考的新型软权威主义。

人类大脑所做的一些事情是非常了不起的，在这些事情上，软件想要超越人类似乎是不可能的。写小说、撩妹或是创立公司，这些都是工具无法做到的事情。当然，如果机器能胜任这些事情，就意味着它们能真正思考了。另一方面，大部分思考都能通过“切片法”来得到提升，而该方法又可以通过程序化步骤得到提升，这样的方法是程序性算法所无法企及的。举例来说，在医疗诊断和决策制定中，通常的医疗诊断可以通过引入检查清单来提高可靠性，尽管相比于人工智能系统，人们在此事上的表现要逊色些。全自动护理的实现还是看不见曙光，但是一切诊断都由机器作出的医院是病人的不二选择，我们没有理由反对。

我们留给机器做的决策越多，收回控制权的难度就越大。在一个遍布自动驾驶汽车的世界里，交通事故率几乎为零，人类开车会被看成是不负责任的，甚至是不合法的。在下面两种情形中，会不会让人同样感到不悦：投资者投资了收益偏离统计意义上的最佳生意；孩子们接受的教育实际上并不能给他们带来长寿和高收入。如果是这样，一些不易被机器所表现的价值，如美好的生活，是否会被相关而又明显的指标（如血清素和多巴胺水平）替代？在这种价值诠释下，我们很容易忽略隐蔽的独裁主义对我们的侵蚀。任何一个追求美好的社会都该决定如何对美好进行衡量，同时这也是我们在使用思维机器代替我们进行思考之前，首先应该解决的问题。