1.人工智能正在为你的工作而来。为了保护你的职业,***去做那些机器不擅长的工作——比如说涉及到人、不可预测或是需要创造力的工作。我们要避免去做那些在可预见的环境中自动消失的重复性或结构化的工作,比如电话推销员,仓库工人,收银员,火车操作员,面包师或流水线厨师等等。卡车、公共汽车、出租车和uber/lyft的司机可能很快就会被取代。除此之外还有许多职业(包括律师助理、信贷分析师、贷款官员、簿记员和税务会计师),虽然他们没有被列入将被取代的名单之中,但他们的大部分工作都是自动化的,因此需要更少的人力。
2.失业可能会变成一个终生的假期。人工智能的进步既可以为所有人创造一个奢侈的休闲社会,也可以为无法就业的大多数人带来***的痛苦,这取决于人工生产的财富如何被征税和分享。
3.杀手机器人并不是虚构的。我们即将在人工控制的武器上发起失控的军备竞赛,这可能会削弱当今大国的军事力量,因为它可以让每个人都能拥有一个装满钱包的廉价而便捷的暗杀机器,这其中也包括恐怖组织。人工智能研究人员对此表示反对,并希望达成一项国际人工智能武器控制条约。
4.机器没有智商。而智力是完成复杂目标所必需的。它不能用一个数字来量化,比如智商,因为不同的有机体和机器擅长不同的事物。
5.人工智能正变得越来越广泛。如今的人工智能主要是狭义的智能,即完成一组小目标的能力,比如下棋或驾驶,其表现有时比人类好。相比之下,人类拥有真正的智力,即完成任何目标的能力,包括学习。人工智能的最终发展目标是通用人工智能(Artificial General Intelligence:AGI),即和人类一样完成任何智力任务的能力。许多领先的人工智能研究人员认为,我们离AGI只有几十年的时间。
6.人工智能可能会让我们远远落后。正如英国数学家Irving J. Good在1965年所解释的那样:“使一个超智能的机器被定义为一台能够远远超过人类智力活动的机器,无论它多么聪明。”由于机器的设计是一种智力活动,一台超智能机器可以设计出更好的机器。毫无疑问,这将会是一场“智力爆炸”,而人类的智慧将远远落在后面。因此,***款超智能机器是人类需要制造的***一项发明,前提是机器足够温顺,能够告诉我们如何控制它。
7.我们还远未达到计算的极限。从我祖母出生以来,计算机的成本已经大幅下降了非常多。如果一切都变得更便宜,那么百分之一的钱就能让你购买今年在地球上生产的所有商品和服务。摩尔定律决定了我们在二维硅晶片上移动电子的成本是多少,一旦进入这个平台,我们就可以尝试许多其他的硬件解决方案——例如使用三维电路,使用电子来完成我们的竞标。我们仍然比物理定律的极限计算要低一百万亿倍。
8.人工智能可以帮助人类繁荣。因为人类文明的每一件事物都是智力的产物,我们用人工智能放大我们自己的智慧,有可能帮助生命像以前一样蓬勃发展,解决我们最棘手的问题,从疾病到气候变化等。
9.人工智能带来了风险。好莱坞对机器变得有意识和邪恶的恐惧是一种转移注意力的行为。真正的担忧不是恶意,而是能力。超人工智能的定义是它非常善于实现其目标,无论它们是什么,因此我们需要确保它的目标与我们的目标一致。人类一般不讨厌蚂蚁,但我们比它们聪明得多——所以如果我们想建一座水电站,那里有蚁丘,这对蚂蚁来说简直太糟糕了。
10.我们需要人工智能安全研究。为了确保人工智能在对社会的影响日益增强的同时,还需要更多人工智能安全的研究。例如,我们怎样才能将今天漏洞百出的计算机变成我们真正信任的、强大的人工智能系统呢?如何让机器学习、接受和保留我们的目标?
这些都是具有挑战性的问题,可能需要几十年才能回答,所以我们现在应该开始一项研究,以确保我们在需要的时候能找到答案。但相对于花费数十亿美元使人工智能更加强大,迄今各国政府几乎没有资金用于人工智能的安全研究。