随着美剧《西部世界》的热播,未来机器人与人类的关系成为热议的话题,尤其是机器人越发成熟并走入人类生活之后,我们应该如何重新定义现代文明与伦理道德。
近日,剑桥大学的几位科学家们拍摄了一部10分钟的记录片《机器的痛苦》,非常值得一看。▼
这部纪录片汇集了机器人和人工智能多个领域的专家,从技术和伦理上对未来机器人的发展进行了深层次的探讨。
痛苦是伴随着生命所必不可少的感官机制,随着机器人越发先进,它们的程序也应该编写入痛苦的感受,用来防止自己受到伤害,也防止伤害他人。
如果将痛苦视为基本的疼痛反应,那么一些人工智能系统已经做到了这一点。但是真正的痛苦需要建立在更复杂的情感基础之上,而情感在大脑中的活动机制目前人类还无从了解。
著名科幻作家阿西莫夫曾经提出过机器人三法则:
▶ ***法则:机器人不得伤害人类,或坐视人类受到伤害;
▶ 第二法则:除非违背***法则,机器人必须服从人类的命令;
▶ 第三法:则在不违背***及第二法则下,机器人必须保护自己。
显然这是建立在保护人类的利益基础之上,但如果机器人的情感程序真的复杂到超越了人类创造者的认知,显然这样的法则就无法适用了,那么到时候又该怎样定义“机器人”这种新的物种呢?
文章转载自微信公众号“一斑”(ID: yiban51CTO)
【编辑推荐】