AI应用的风险与智慧:Microsoft Recall的隐患与应对策略

人工智能
AI是新的“数字化”,换句话说,供应商们无论其产品是否具备相应的功能,都在给它们贴上AI的标签,这种现象得到了完全缺乏可靠AI定义的助长,这就像几年前他们对“数字化”所做的一样。

 

但有时一款产品确实值得贴上AI标签。准确的描述是一回事,但这与它是否是个好主意完全不同。 

以主题Microsoft Recall为例,它每隔几秒钟就会存储你电脑屏幕的快照,并将其编入索引,以便你在需要回顾时可以随时调用(因此得名“Recall”)。 

担心隐私泄露?微软说,不必担心,因为Recall存储的所有内容都保存在本地加密文件中,而不是云端。根据微软的说法,“……潜在的黑客需要物理访问你的设备,解锁并登录后,才能访问保存的截图。” 

请原谅我的怀疑,但难道没有一整类恶意软件是通过控制受害者的PC来工作的?我的意思是,为什么有人会认为物理访问是Recall唯一容易受到攻击的途径? 

可能会出什么问题呢? 

我知道“愚蠢的一致性是小脑袋的妖怪”,但微软不是至少已经向所有愿意听的人推广虚拟桌面十二年了吗?虽然将Recall排除在VDI之外并不算是个悲剧,但不仅仅是VDI削弱了微软的保护。很多漏洞现在正被倒霉的用户无意中安装的恶意软件利用,这些恶意软件让入侵者可以远程控制他们的PC,这种控制也会扩展到Recall及其查找数据的能力。 

说到怀疑,Recall需要信任微软及其开发人员不在Recall系统中创建任何后门。如果微软不在任何时候根据自己的意愿更改其许可条款而不征得客户同意,这将是一个更合理的门槛。 

说到数据,难道大家都忘记了知识金字塔吗?按照Scott Lee和我完善的这个概念体系,数据位于底层,接下来是信息、知识、判断力,智慧在金字塔的顶端。Recall提高了你记住数据的能力——这是这些层次中最不有价值的。 

哦,对了,还有一个虽小但不幸的后果:对于那些依赖Tor浏览器及其相关的超级安全网络来保持在线活动隐私的人来说,Recall会破坏Tor的保护,一次又一次地捕捉Tor显示的屏幕截图。 

这不是微软在积极追求的市场,尽管Edge的InPrivate模式例外。 

还有一个问题,很难想象这种疏忽是偶然的:大多数企业认为存储在员工设备上的任何内容都是企业的财产,而不是员工的。如果一位业务经理想查看员工的Recall数据……那会非常尴尬! 

这是怎么发生的? 

在这一切背后,我们可以很容易地想象Redmond团队的成员在集思广益,思考他们可以用AI做些什么,然后感染了乐观偏见,并充满了日益高涨的热情,开始行动。 

更重要的是,这正是微软及其技术推广同伴应该用AI做的事情。 

IT的工作是通过使用现有的信息技术来解决业务问题并追求业务机会。IT的供应商呢?他们应该超越已经开发的技术,探索可能实现的事情,并将“可能”变成“可行”! 

只是这里缺少一个中间步骤,即知识金字塔的两个最高层次:判断力和智慧,它们是让这场潜在灾难中的每个人都应该意识到区别的——能够做某件事和做这件事是否是一个好主意之间的区别。 

你应该如何回应 

尽管有这些批评,Recall未必是一个完全糟糕的主意。以我个人为例,我有时是一名业余的自然摄影师,如果我能让我的电脑显示出所有拍摄到红眼美洲莺的照片,我会非常高兴,作为一个爱好者,我可能愿意为了这种能力而承担Recall的风险。 

我还可以想象WPP的一位经理想要列出互联网上所有出现可口可乐瓶子的地方,因为WPP是可口可乐的广告代理商,Recall将是一大助力。 

这种助力足以超过其风险吗?那是另一回事。 

这让我们回想起以前的一个情景:早些时候,即使在标准化使用Windows PC的公司中,市场部也经常被允许让创意人员使用Macintosh电脑。CIO认为说服市场部接受Windows标准桌面所需的时间和精力不值得。 

因此,你最好现在就开始为拒绝那些希望为其团队使用Recall的经理们做准备。 

你最好这么做,因为你知道他们会提出要求。作为CIO,你还知道在你的工作中,你需要在制定消极销售策略——说服人们不做某事——方面与让公司经理们批准你知道值得投资的项目方面一样出色。 

还有一点,来自Dr. Yeahbut:IT很容易陷入零风险陷阱——将任何风险都作为拒绝潜在机会的理由,这是一个坏习惯。 

当面对像Recall这样的东西时——也许有一些不太明显的风险,但也有可能非常酷——挑战你的分析师和管理团队,找出利用这种新能力的方法——即使是在非常小的范围内——同时防止或减轻其带来的风险。

责任编辑:庞桂玉 来源: 企业网D1Net
相关推荐

2021-12-31 16:10:46

稳定币数字货币货币

2024-07-18 07:04:30

2024-05-22 08:00:00

2015-01-12 13:20:16

数据中心迁移

2024-07-29 00:01:00

RabbitMQ消息堆积

2011-05-24 10:02:47

2014-06-04 17:35:12

2012-10-09 15:50:19

IPv6

2024-07-01 09:00:16

2020-03-31 10:37:14

物联网安全物联网IOT

2024-06-17 08:24:09

2023-10-18 14:14:59

数字化转型

2010-09-27 13:33:26

JVM异常

2017-04-27 20:45:48

爬虫反爬虫

2023-09-19 08:00:00

2024-09-12 15:55:05

2010-11-29 10:11:05

Sybase数据库死锁

2024-10-30 14:52:39

2013-12-16 11:18:42

多核

2010-09-17 09:27:40

Linux 服务器安全
点赞
收藏

51CTO技术栈公众号