美国HBO电视网出品的《西部世界》(Westworld)虽然故事情节设定在未来,但却是对当今网络安全的一个寓言。
在枪林弹雨的网络安全世界中,到处都危机四伏。运营现代企业有时候就像在狂野西部(Wild West)最阴暗的地方开酒吧一样危险重重。实际上,西部牛仔时代和现代网络安全问题之间的相似之处非常多,HBO电视网出品的《西部世界》就完美地证实了这一点。
如果你还没有看过《西部世界》这部美剧,那么由我简单给你介绍一下故事情节:有这么一个地方,与我们相处的世界一模一样,只不过,在这里你可以为所欲为,烧杀抢掠,纵欲杀人,条件是你花钱买入场券就行。
西部世界中的游客们在这个游乐园里的一切行为都是无罪的,因为乐园里的接待员全都是人工智能的机器人,他们就像网络游戏中的NPC,供玩家开战故事而设。尽管他们与真人几乎没有差别,一样会痛、会哭、会笑,但他们以及发生在他们身上的一切却都是假的,他们的行为表现都只是创造者们输入进去的既定程序,其本质不过是供人玩乐的机器人。他们每天的生活都是按照写好的剧本进行的,第二天,之前的记忆就会被清除,一切剧情都跟昨天一样。日复一日重复着悲惨的剧情,如果说变化,也只有新的游客用来折磨他们的方式各有不同而已。
听起来确实有种“脑洞大开”的感觉,但你知道吗?其实,西部世界遭受的问题与当今网络安全专业人士所面临的问题极为相似。实际上,西部世界的缺陷正是应对当今最危险的数字威胁的有用寓言。
1. 身份识别
如果您的企业在验证身份方面遇到了困难,那么您并不孤单:西部世界乐园中也存在同样的问题。
毕竟,我们都以为自己知道夏洛特·黑尔(Charlotte Hale,西部世界董事会执行董事)是谁,但事实证明,她在第二季一开始就被机器人版本的“自己”杀死了。事情是这样的,伯纳德通过德洛丽丝 · 艾伯纳西的意识球(相当于存储机器人记忆的优盘),将德妹的心智植入了和黑尔长得一模一样的机器人系统中,塑造了一个德妹版本的黑尔,最终,德妹版的黑尔干掉了真正的人类黑尔,并顶替了她。然后是伯纳德(也是机器人),其实际上是西部世界中的早期创造者之一阿诺德(Arnold),他也死了。
如果你不理解我的意思,请想象一下,日复一日,来自合法和非法用户的数百万个访问请求会为你的系统造成怎样的认证负担,它是否会产生混淆?
凭据不会减少:在当今的威胁环境中,凭据非常容易被盗。相反地,准确识别用户(或机器人)的最佳选项是依靠验证的组合,例如多因素身份验证、行为生物识别(包括语音识别、键入模式、鼠标移动等等)以及浏览器和IP信息等。
如果一个系统在第二季中通过多种验证组合分析了黑尔的身份,它就会发现,即便该机器人看上去与黑尔无异,但事实却并非如此。同样地,即便攻击者复制了一个验证身份信息,也几乎不可能复制所有验证组合。
2. 人工智能(AI)法规
《西部世界》的吸引力之一就是它对于人性的深度探索和思考。如果说我们的意识是个性的症结所在,其最内核的意识终究是趋利避害的利己主义,那么,在一个可以随意构造、更改、下载、上传和销毁的意识世界中,我们可以不遵循法律法规、伦理道德的约束,那么人类展现出现的还是这样贪婪卑劣的一面吗?到底会发生什么呢?这个问题严重困扰着西部世界创造者阿诺德(Arnold)的良心,并且最终决定了他的灭亡。
在西部世界中,人类与人造意识(即人工智能)之间的纠缠不容易解决;在现实世界中,又何尝不是如此呢。2017年,Elon Musk呼吁对人工智能(AI)进行监管,以免对人类构成威胁。但是,考虑到法规会阻碍技术创新的步伐,所以美国国会对AI立法采取了“观望”的态度。结果是到目前为止,AI着实实现了技术上的创新,但是在没有严格的法规、标准和要求的情况下,也催生了利用机器学习和AI开发“deepfakes”欺诈技术的行为。
我认为,规范AI的一种实用方法是使用现有的数据隐私法,并将其扩展或复制以覆盖机器学习和AI。
3. 威胁和漏洞
在《西部世界》中,即便是最先进的机器人也容易受到恶意软件的攻击。但是,最有趣的也许是,剧中所展示的威胁很容易被视为现代网络安全威胁的一个寓言:
内部威胁:《西部世界》的一名程序员埃尔西(Elsa)在一个机器人接待员体内发现了一个基于激光的卫星上行链路,有人正使用这些接待员将乐园的数据传送出去。后经调查发现,往外发射数据的正是公司质保部门主管特蕾莎·卡伦。
持续存在的高级威胁:机器人领袖梅芙(Maeve)利用西部世界的技术人员Felix和其他机器人一起发动起义,因为有人在梅芙体内植入了出逃程序,让其以预先设定的叛乱活动逃离西部世界。
恶意代码:在酒吧工作的机器人接待员克莱门汀(Clementine)被更新了新的代码变成了“行走的病毒”,随意散播病毒,只需要通过网络发送想法,Clementine就能够命令未觉醒的机器人们残忍地互相杀害。
物联网漏洞:在第三季的首映式中,德妹闯入了一个亿万富翁的智能住宅中,这使得房屋不再对主人的命令做出反应。剧中没有明确表明智能家居是否受到不安全的网络服务,生态系统接口或默认设置的损害,但Dolores确实能够迅速地控制住它们。
启示
我们可以从上述威胁和脆弱性以及西部世界中出现的身份认证问题和AI难题中学到什么呢?就是要认真对待它们。人们很容易将网络安全视为仅存在于真空中的问题,觉得它只会影响数字网络,只要我们脱离计算机,数字网络就不会威胁到我们。
但是现实情况是,网络安全与现实世界息息相关,其破坏能够产生非常实际的危害。西部世界向我们展示了,问题只有在引发广泛关注之前才能被忽略很久。所以,为了避免相同的困境在现实生活中实现,我们必须在事情恶化之前,充分重视网络安全。