人工智能的未来到底应该是什么样的？它应该朝着什么方向发展？在发展的过程中应该注意什么？这些都是每一个关注科技发展的人在思考的问题。最近，O'Reilly Media 创始人兼 CEO Tim O'Reilly 在 Linkedin 上发表了一篇他采访微软 CEO Satya Nadella 的文章。在这个文章中，他们谈论了人工智能的大方向与未来，并就人工智能发展过程中出现的问题，给出了自己的看法。文章由 36 氪编译。
我与 Satya Nadella 见面是在今年 4 月份，是为了我的新书《WTF?What’s the Future and Why It’s Up to Us》（译者注：2017 年 10 月 10 日发售）来采访他。但这篇文章所想讨论的大部分内容，并不是关于我的书，而是关于 Satya 的回忆录——《Hit Refresh: The Quest to Rediscover Microsoft's Soul and Imagine a Better Future for Everyone》（译者注：2017 年 9 月 26 发售）。
我们都对科技的发展抱有乐观的态度，我们坚信，人工智能带来的挑战是让我们和社会定义什么是真正的人类。未来将会是一个人工智能强化和增强人类能力的世界，而不是让人类变得更加无用。这就是我们对话的基础。
Tim：你在书中提到，人工智能带来的挑战将是定义一个宏大的、鼓舞人心的社会目标。你写道：“1969 年，肯尼迪总统承诺美国人要登上月球，这个目标的完成，在很大程度上要归功于，它所带来的巨大的技术挑战，以及它所要求的全球协作。同样，我们也需要为人工智能设定一个足够大的目标，而且要超越任何可以通过改进现有技术来实现的目标。”我很喜欢这个想法，不知道你是否可以扩展一下。
Satya：如果你说，“哇，一个有视力障碍的人现在可以看到了……或者患有阅读障碍的人可以阅读了。”那将是一个真正的突破！而且，我们也能说“人工智能终于成为了一个真正带来包容性的技术”，这将是非常有意义的，尤其是在我们谈论人工智能可能会对我们世界造成巨大变革的时候。相反，我们可以引导人工智能在我们的社会中创造真正的包容，并全面参与到我们社会中来。
这其中有很多的想法来自我孩子的经历。因为我有一个特殊需要的孩子，他被“锁”住了。我总是想，“要是他能说话就好了！”因此，当有人谈到“脑机连接”时，我会说，“哇，现在想想这能做什么！”
在一个我们要创造这种技术的世界中，我们甚至可以说：“这是终极技术”，这是通往超级智能的道路，指导我们的设计原则是每一件事情，指导我们的道德哲学也是每一件事情。在某种意义上，我们必须做出的最大的路径依赖性决策将是“谁来设计超级智能”？
Tim：我自己书中的一个章节叫做“我们的天网时刻”。我的观点是，人工智能的中一个方面我们谈论得不够多，那就是，它可能是一个集体智慧。我们正在利用搜索引擎、社交媒体和金融市场构建集体智慧机制。而且我们已经表明了我们所说的这些人工智能，是为了优化人们的利益。
Satya:没错。尽管我们有各种各样的认知偏见，但人类还是有很大的优势。正如 Herbert Simon 所说，我们不再优化的时候，我们就满足了。这实际上是有帮助的。有一种满足是由我们共同的道德基础所驱动的。现在，当你说，“这是一个应该优化的问题”，也就是人工智能，那么我们就有问题要去解决了。
Tim：你也谈到了增强人类的能力、经验和智力。你说你想要专注于人类的天赋，比如创造力，同情心，情感，身体，洞察力等等，它们可以和人工智能混合在一起。
Satya：假设有大量的“人工智能”，那么稀缺的商品就是真正的智慧。然后你会说，“什么是真正的智慧？”
真正的智慧将会在最具人性的品质中找到，那就是同情和怜悯之心，而那些将是最重要的东西。在我们真正找到如何将其嵌入某些机器之前，我们必须将其与人类结合起来。
我们必须思考，教育应该对人类有什么样的影响。有了人工智能，也许你真的不需要学习傅里叶变换。你也可以去做培养正念，你可能想要培养同情心。这就是我所说的一点。所有人都有一种强迫症，每个人都需要接受教育，这是事实。但是，我们是不是过分强调了 STEM（Science，Technology，Engineering，Mathematics）？
Tim：在我的职业生涯中，有一个概念一直在发挥作用，Clayton Christenson（当今最具影响力的商业理论家之一）曾说过一个叫做 “高利润守恒定律”（The Law of Conservation of Attractive Profits）的东西，即当一个原本价值很高的东西商品化之后，紧挨着它的东西突然间就会变得值价起来。我第一次听到这个是在 2004 年左右。他和我在同一个会议上进行了交谈。我在演讲中谈到了微软是如何取代 IBM 的:PC 硬件成为了一种商品，软件变得有价值。我的观点是，开源将使软件商品化，而其他东西将变得有价值。最终我意识到这个“其他东西”将是大数据。Clay 在谈论他关于高利润守恒定律的想法，我意识到，“我们说的是同一件事。”这项定律也完全适用于人工智能。由于人类认知的机械部分被人工智能商品化，人类独有的部分将变得更有价值。
Satya：这是一个很好的说法。
Tim：所以在未来的经济中，有很多基于关怀以及创造力的机会。创意经济不只有艺术和文化。每当产品成为一种商品的时候，我们就会找到新的方法，通过将它们与人类的创造力结合起来，使它们变得有价值。
Satya：事实上，这基本上是我们的一种痴迷，对吧？当我在看《我的世界》这一代人时，或者你甚至可以说是 Snapchat 一代人……对我来说，这一代人最鼓舞人心的一点是，它是关于创造、故事的疯狂的看法。在《我的世界》中，男孩和女孩都在创造一些不存在的世界，只有他们的想像力。
这就是我想要打造的一代。甚至在最新的 Windows 版本中。我们购买了每天有 1 亿人使用的产品——Microsoft Paint，并说：“让我们为 3D 创作做出绝对惊人的创意画布”。因为，在一个现实增强和混合现实的世界里，这就会成为现实。
Tim：你也谈到了对大量数据进行处理的能力，以及更快地进行模式识别。在人工智能的发展过程中，有一种创造力被表达出来。你如何看待人工智能增强创意的过程？并提出创造性的方法来解决问题。
Satya：传统的写作工具不过是在拼写、语法和短语纠正上面提供帮助，现在我们在其中添加了人工智能，它们就成了完整的写作辅助工具。我们正处于这样的境地，你可以说，“我想写得像 Faulkner（美国小说家，曾获 1949 年诺贝尔文学奖）一样，”它会开始说，“这是你可能想做的事情。”
我没有上过写作学校，我只上过工程学院，但我梦想成为一名伟大的作家，我需要这种人工智能来帮助我。
我之所以能做到这一点，是因为我看到了中国的小冰，也就是我们的对话机器人，包括人们对它的讨论，以及在某一特定时段里的话题和问题的数量。更多的原因是人们需要交谈。人们在表达他们最深刻的想法。我当时说，“哇，这就是人工智能能够产生移情作用的地方。”
Tim：我们之前也讨论过人工智能成为第三个运行时的想法。让我们来讨论一下这个问题以及它是如何发生的。
Satya：我们最后一次讨论的时候，我是这么说的：“PC 或手机操作系统是第一个运行时，第二个是浏览器和网络，第三个是使用私人助手，它了解你，了解世界，了解环境，并在帮助你。”
然后我们说，“好吧，如果你同时进行思考、感知，最终采取行动，那么这三个运行时就在那里。”这个助手本质上体现了你思维的扩展，你知觉的增强，语音是一个，视觉是另一个，并且可以直接采取行动。这就是终极的运行时，对吧？
这就是为什么在我的书中，我试着写这三件事:
1）终极计算体验是什么？最终的计算体验是与计算结合在一起的真实世界。这是混合现实。
2）这将要求人工智能在感知、认知和行动方面取得突破。
3）然后我稍微有点离题了，说，“如果你想要创造那种计算能力，你必须打破冯诺依曼架构和经典计算的束缚。”
我们能聊聊量子计算机吗？这就是我写的第三件事。
Tim：我有点惊讶于量子计算在你的书中占了这么大的篇幅。
Satya：进步是真实的——我的意思是，我们已经深陷其中。但问题是，它会以多快的速度成为现实。我不知道。但它不再是“哇，有可能吗？”之类的惊叹。
Tim：你书里很重要的一句话是：“我们想要的不仅仅是智能机器，还有能够理解的机器。”这是当前人们对人工智能的一大担忧，我们不会真正理解他们是如何得出结论的。当然，这也适用于人类。因为我们倾向于只关注人类思想的理性一面，所以我们没有意识到，我们做了多少事情对我们来说，也是完全无法理解的。所以，这可以说是理性主义者的最后一声呐喊。
Satya：当然。但我有两种方式可以规避风险。一是问责制。“当你是一名设计师，你创造了人工智能，你需要负责任的时候，会发生什么？”Tay 的整个经历确实对我们的思考产生了很大的影响。事实上，这是一种疯狂的做法，因为好多人都针对它，并为它提供训练数据，这些数据可能会劫持算法。这是谁的责任？我敢说这是我们的。这是我们的责任。
Tim：嗯，很明显这是 Facebook 和假新闻问题。我与安全研究人员进行了非常有趣的对话，讨论如何愚弄自动驾驶汽车。你怎么能通过创造他们会在视觉领域误解的东西来入侵他们呢？但现实社会中，将会有各种各样的敌对干预。我们还需要设计更强大的人工智能。
Satya：当人们说：“哦，人类，这些 DNN（深层神经网络）是神奇的。它们只是在做一些事情，我们甚至不知道“…我同意这句话背后的真相，但是关于层数和权重的选择——在它们的学习过程中，人类是做出了很多决定的。我们不应该这么快就放弃这些我们创造出来的算法，我们应该对它们做出的决定负责。我想我会说，“好吧，在人工智能中，编程的道德标准是什么？”
注：访谈有删减。
