“变”成“机器人”,才能打败机器人

人工智能 机器人
人类正在迎来机器人时代。一些机器人专家、哲学家担心,未来某个时代,高度智能化的机器人掀起对人类的叛乱,通过各种方式麻痹人类设计的监控、约束机制,“会在不给出预警也不做出挑衅的情况下,进行反攻,建立单一体,并开始按照其最终价值观直接对世界进行改造”。

 人类正在迎来机器人时代。一些机器人专家、哲学家担心,未来某个时代,高度智能化的机器人掀起对人类的叛乱,通过各种方式麻痹人类设计的监控、约束机制,“会在不给出预警也不做出挑衅的情况下,进行反攻,建立单一体,并开始按照其最终价值观直接对世界进行改造”(牛津大学学者尼克·波斯特洛姆语)。

[[346539]]

在潜在威胁未曾具象化之前,很多人通常表现出漠不关心,或者笃定“桥到船头自然直”。这样的漠视、盲目、颟顸,其实广泛存在,比如迄今为止,无论在美国还是中国,不在少数的人从来就认为环境、资源危机要么无中生有,要么夸大其词。

机器人(超级智能机器)叛乱,从技术发展的方向来看,是可行的,并且,从利益代理机制的脆弱性来看,机器人一旦获得接近人的智能,背叛(人的)委托甚至可以认为将难以避免。为什么这么说?

其实我们每个人某种程度上都是机器人——这里提到的机器人,指的是以载体方式体现的人体,任何人都有两个毫无人性的主人,一个是基因,一个是模因(文化基因)。英国演化生物学家、科普作家理查德·道金斯在其名作《自私的基因》其实就已经指出了这一点(只不过大多数读者没能读懂他的观点)。基因和模因是自私的,它们追求自身永垂不朽,因此安排无限复制,而人体(载体)通常情况下必须服从于基因和模因的安排。

载体跟基因、模因的利益并不完全一致。基因、模因为了延续,会毫无犹豫牺牲载体的利益。人体组成及功能,经历过漫长的自然选择,但从载体的角度来看,并没有实现载体的最优化,而是服务于人类基因、文化基因的传续和优化。

加拿大多伦多大学应用心理学和人类发展科学教授、美国心理学会终身成就奖获得者基思·斯坦诺维奇解释指出,在人的大脑中,存在着两套心智体系,一是遵循基因和模因需要的自发体系(反射心智),二是依托理性而实现的描述分析体系(反省心智)。科学家验证指出,人的绝大多数大脑活动游离于意识之外,是自发体系驱动的结果,这使得人轻而易举地的养成各种习惯、嗜好。例如,吸烟、大量摄入甜食、危险的性行为、依照刻板印象看待他人及处理社会关系。

自发体系是进化的结果,目的是服务于基因利益(繁殖成功),要想对之予以克制,显得非常困难。很多时候,人们会误认为自己已经懂得如何建立理性的思维和行为方式,就像经济学家经常提到的经济人理性原则一样——事实上,人们经常违反自认为的理性、自定的理性准则。而身处现代社会的人们,面临工作、生活方方面面很多问题的选择,难以做到理性计算,更严峻的是,“我们现在了解的关于世界的大部分知识,都不是来自对真实事件的感知,而是来自预处理、预包装的抽象信息”,这就使得我们只好成为自发式系统默认设置的俘虏,即便这种设置错漏百出。

自发体系还服务于模因,也使得人们安装了大量对载体有害的模因(如体现男子气慨的吸烟模因)、社会偏见模因、欲望模因,等等。这些模因使得很多人越来越接近于模因的工具,不具备反思自觉和能力,描述分析体系渐近瘫痪。

人要走出自发体系造成的混沌,避免成为基因和模因驱动下的“行尸走肉”,就必须发动一场“叛乱”,打破基因和模因的利益委托机制,让人真正成为自省、反省、自察的人,使得载体的行为可以真正争取载体的利益。

也只有这样,当未来的人工智能、超级机器逐渐融合为超级智能,人类才可能应对机器人发起的叛变,获得对人类前途命运的控制,“以一种地球生命行为中的独特方式——理性的自我决定”。

 

责任编辑:华轩 来源: 今日头条
相关推荐

2015-07-28 09:36:11

机器人

2021-08-19 15:44:20

机器人人工智能机器学习

2021-07-22 10:17:55

加密机器人加密货币机器人

2020-12-21 14:30:09

机器人人工智能科学

2015-12-10 21:49:32

IM机器人

2012-03-08 09:42:16

开源软件Linux

2011-08-30 17:33:50

AndroidifyAndroid机器人游戏

2022-07-28 11:26:41

人工智能机器人

2019-03-05 10:38:44

机器人人工智能系统

2022-10-21 17:30:26

机器人

2020-03-05 20:37:08

工业4.0机器人工业物联网

2021-01-28 19:34:49

人工智能AI机器人

2020-04-10 21:36:46

协作机器人物联网机器人

2019-01-27 15:03:52

机器人下岗智障机器人

2021-08-19 15:46:08

机器人人工智能机器学习

2017-03-28 12:21:21

机器人定义

2020-04-09 09:56:55

机器人导航框架

2024-01-05 19:44:48

谷歌机器人宪法AI
点赞
收藏

51CTO技术栈公众号