演讲干货丨大数据的“上半场”与“下半场”

大数据
当大数据被广泛应用并逐渐走到下半场的时候,对于公司或产品,我们面临怎样的机会和问题,我们又当如何科学的对待?

导语:科技放大了我们的能力,但是也同时增加了我们的烦恼。我们要用数据做更精准东西的时候,会发现数据的质量非常重要。

从PC互联网到移动互联网,再到智能互联网,技术背后更多体现的是解决问题的思维方式的变革。

当大数据被广泛应用并逐渐走到下半场的时候,对于公司或产品,我们面临怎样的机会和问题,我们又当如何科学的对待?

红杉资本中国基金专家合伙人、原阿里数据委员会会长车品觉,在上月举办的第十一届艾瑞上海峰会上发表题为《大数据,颠覆存在与思维》的演讲,他说人类的经验和数据的驱动应该更好的相处。

  • 不用担心当数据驱动这个世界
  • 会把人类的经验消灭掉,
  • 人类的经验和数据的驱动
  • 两者之间是相互的。

[[179483]]


大数据,颠覆存在与思维

我们总说,我们经历了从PC互联网时代到了移动互联网时代,还会经历智能互联网时代,但很多人不理解什么是“智能”。

那么现在到底发生了什么事情呢?以前我们很难说服公司的每个部门去主动搜集数据,甚至当我们开始做大数据的时候,我们公司里面还讨论“我应该收集什么”。

而现在,我们希望能够更准确地分析信息,更准确地做判断,通过深度学习,我们希望快速从错误的信息里找出对的东西。这些都是现在正在发生的。

当数据量特别大的时候,万物的连接,主动的数据收集,这是上半场;而下半场是怎么准确进行判断,把数据变成行动。

说的更通俗一点,从前人类想我到底能不能活得更久一点;而现在,除了这一点之外,人类在想我能不能把平均IQ提升到160,这就是上半场与下半场的区别。

需要治理的数据

最近不断有大集团打电话给我说:车总,跟我们讲讲数据治理吧,我们想知道你从头到尾是怎样思考的。这些老板提到了一个概念:数据治理。

公司数据遇到的大部分困难是公司内部的打架,因此大量数据没有办法整合在一起,可能四五年内都没有办法。100PB、200PB、300PB的数据,再不治理就真的吃不消了。因此数据治理是非常关键的点。

除了数量,数据的质量也非常重要。比如阿里金融和其他数据部门总是为了一件事争论不休,就是因为阿里金融需要的数据质量是非常高的,但是其他部门给出的数据经常没有考虑这些,这都是数据治理的问题。

其实当数据量增加的时候,你就会发现它的精准度在提升,当然数据量的增加是指来源的增加。但有些问题必须要很精准,90%准确度和95%准确度本身就是非常大的分水岭。

还有一些事情也是下半场开始出现的。比如我们身体反应出的一些数据,我们今天的表情到底是开心还是不开心?即“情感的数据”。由此可想象数据的复杂性,到了下半场你会发现你根本没有办法去找到这一类的数据。

我们除了说数据量一定要大,其实还有一点也很重要:核心数据。这意味着,当你拿到这些核心数据的时候,数据量可能并不需要那么大了。

大数据不止于“大”

你遇到的问题到底能不能用大数据来解决?

根据我们过去的经验,我们今天准备用数据解决的问题如果没有足够的发生次数,如果只是偶然或者低概率,大数据就没有办法处理。但如果它的发生次数足够多,我很快就能知道我推荐的东西到底是对还是错的。

如果想通过数据看到很准确的信息,这需要依据数据的量以及我们对这个业务的理解有多深。

有时候会有投资人拿着一家比较小的公司的数据给我说,这个公司有很大量的数据,大概MAU在1亿多,但我说这不是大数据,为什么?

***,这些数据里面有多少是可以和我匹配的?不妨想一下,如果你有100万的用户数据,那么有百分之多少的数据能覆盖?如果1亿多的量,一般超不过50%。这是***个问题;第二,如果我给你100万的数据你知道他是男的还是女的吗?准确度在90%以上吗?

如果不能回答这两个问题,那就不是大数据了。量和量之间的连接是非常重要的,在这个前提下你才可以做融合。比如一个人今天到你店里去买东西,那么你知不知道他之前去过什么店、看过什么东西?匹配、相关、全面,第四点最重要,新鲜。到底你的数据能做到有多新鲜,这是非常重要的。

挑战与机会

我们要解决的问题通常是两种:***,我们非常清楚问题是什么;第二,我们不是很清楚问题是什么。换句话说,一个问题是数据很集中;另一个问题是数据很零散。

我们现在可以做的大数据方案都是数据很集中,而且问题很清楚,否则没有办法解决。如果数据很零散,你可能要用大量的算法,但如果数据很清楚,问题很清晰,算法不重要。

但是大数据的机会反而是来自今天的离散的数据。

  • ***个机会:我认为将来有很多数据的创新是来自这里:数据创新、算法创新、服务创新,把三层分开;
  • 第二个机会:很多数据太零散了,所以需要有一个第三方进来整合这些数据;
  • 第三个机会:今天***的问题是政府数据的开放,不是不存在,但是质量相对较差,没有标准化,比较零散。

我认为这是BAT以外***的数据量,而且可能是非常重要的一块。怎么样可以把这些数据的产能释放出来,这是一个挑战和机会。

数据的标准化

当年发现阿里数据很大的时候,我们发现大量的数据是重复的,特别是ODS层的数据,越底层的数据处理应该是越统一的。

如果不做标准化,随着公司对数据的重视,就会“百花齐放”:结果就是乱,可能需要重做。

你们做的是Data Stitching,把它连起来,让它能使用,让中间人用Machine来使用。一种是可视化分析,另外一种是用服务的产品,还有智能的东西出现。这样的东西面对的是什么呢?最终的用户是政府、公司和个人。

在世界互联网大会上联想提到以前是终端,现在中间那块做得比较厚,Data、算法、服务。尽管数据驱动非常厉害,但是依然会有经验的驱动,人还是要告诉机器“你要去哪里”。

不用担心数据驱动这个世界将会把我们人类的经验消灭掉,人类的经验和数据的驱动两者之间是互相的。

责任编辑:未丽燕 来源: 红杉汇
相关推荐

2019-03-21 10:57:58

技术开源数据

2020-04-14 16:02:46

IPv4IPv6互联网

2018-11-22 09:07:45

NFV网络功能虚拟化网络

2018-10-29 13:50:40

2020-07-13 07:00:03

微服务服务网格架构

2024-09-23 08:42:11

2022-03-09 09:44:58

云原生Linux云计算

2022-08-09 08:40:51

运营商互联网云云计算

2021-03-04 09:37:40

云计算云原生计算云安全

2020-12-30 12:47:55

互联网云计算信息

2016-12-13 12:34:23

宽带电信移动

2021-01-27 09:12:30

微信搜索腾讯

2018-08-12 11:54:41

BlackHat

2018-12-06 09:55:38

区块链数字货币互联网

2020-03-23 11:39:25

在线教育疫情市场

2018-09-13 11:37:55

微信小程序腾讯

2019-05-20 11:00:54

云计算AIoT开发

2017-08-03 19:02:30

直播CDN金山云

2019-01-24 21:26:23

甲骨文云计算人工智能
点赞
收藏

51CTO技术栈公众号