【转帖】人工智能若超越人类，会发生什么？

微雨黄昏

来源：译言网   译者：沈持盈   原作者：Oren Etzioni
一些人把人工智能看作是一种威胁，对人工智能有着深深的恐惧。但事实真的如此吗？让恐惧来指导我们，绝非明智之举。

特斯拉CEO埃隆·马斯克以及著名物理学家史蒂芬·霍金都担心在不远的未来，人工智能会对人类产生威胁，这种观点也在一些电影中有所体现。
关于人工智能，最为盛行的反乌托邦式的观点并不正确，原因在于这种观点是在将“智能”等同于“自主”。它所假设的是，一台电脑能够建立自己的目标、有自己的意愿、依靠自己更快速的处理能力以及强大的数据库来打败人类。也就是说，这种观点假设了人工智能拥有完全自由的智能，但智能和自主是两件完全不同的事。
要说人工智能能够完全为了自己的意愿做事情，就好像在说计算器能够自行计算一样。对于人类来说，计算器是让我们更快、更准确地处理数学问题的工具，类似的，人工智能能让我们更加得心应手地处理困难问题，诸如大规模的数据分析，持续进行医药研究等等。同计算器一样，人工智能需要人类的介入和指示。
如今，自主电脑程序已经存在，诸如电脑病毒、赛博武器等程序是非常可怕的，然而它们也并非是智能的。大多数智能软件都是高度专业化的，比如IBM的沃森电脑（Watson）能够在类似《危险边缘》（Jeopardy）（译者注：美国哥伦比亚电视台的一档益智问答类节目）节目中拔得头筹，但他们还是无意识的。正如哲学家约翰·希尔勒（John Searle）所说：“沃森电脑自己都不知道自己在《危险边缘》中赢了。”
反人工智能的论调一般都以一种假设性的说法表达出来，如同霍金所说：“人工智能的全面发展可能导致人类的灭绝”。假设说法的问题在于，它们忽视了现实——接下来四分之一个世纪，出现“全人工智能”的可能性，还不如小行星撞地球让人类灭绝的几率高。
“智能”与“自主”两个概念的混淆源于我们对于自己在世界上变得“越来越无关紧要”的恐惧。如果人工智能能够接替我们工作，那么作为一个物种，我们人类又能做什么呢？看了玛丽·雪莱的《弗兰克斯坦》，我们害怕“机械怪物”，读了艾萨克·阿西莫夫的机器人小说，我们可能会对机械怪物接近我们这件事变得更加畏惧，这也是所谓的“科学怪人情结”（Frankenstein Complex）。
机械怪物与计算器的例子都说明，科技既具有破坏性，也能给我们带来机遇。但没有科技呢？我们很难说世界会变得更好。对待新的科技，我们应该想的是它能带给我们什么好处，而不是害怕一旦它们遭到误用会怎样。对待人工智能，我们也该如此。
例如，研究者正致力于开发人工智能，让其成为能支持科学家、医生以及其他知识型员工的好帮手。得益于这些，全球的科学产出每九年就会翻番。我们需要的智能软件可以回答诸如“某种药物对于中年女性有哪些副作用？”之类的问题，或者至少能找到一些相关的论文。我们需要的软件可以搜寻最新的科研论文，标记其中的重要著作，而这一过程不用靠键盘，靠的是对于论文核心信息的一些理解。这些功能都是人工智能研究者们致力于完成的目标。
现在，我们还处于人工智能研究的早期阶段。而人工智能产品仍存在许多缺陷。我们仍有充满挑战性的工作要完成。而坦白说，无论是贩卖恐惧还是哗众取宠，都没有抓住人工智能的要点：哪怕是对于普通孩子们来说很简单的一件事情，对于人工智能软件来说都十分困难——而且需要很多年的努力才能实现。这么说来，我们人类比我们看上去的还要聪明得多呢！
如果我们对于人工智能抱有一种不公正的恐惧态度的话，我们可能会失去能够对人类益处多多——甚至能够拯救生命——的人工智能。让让恐惧来指导我们，绝非明智之举。