Facebook分析主管Ken Rudin表示,Hadoop编程框架可能是“大数据”运动的代名词,但对于公司从大规模存储的非结构化信息中得到商业洞见的需求,Hadoop不是唯一的工具。
“有很多普遍的大数据信念需要被质疑,”Rudin说,“问题是,Hadoop是一种技术,但大数据不是关于技术的,大数据是关于业务需求的。”
“实际上,大数据应该包括Hadoop和关系型数据库和任何其他适合手头任务的技术。”他补充说。
Facebook的商业模式依赖于对其超过10亿社交媒体用户的用户资料和活动数据的处理,以提供有针对性的广告。但是,“对于我们的所要做的,Hadoop并不总是***的工具。”Rudin说。
例如,在Hadoop中对一个数据集做广泛的探索性分析是有意义的,但关系型存储对于进行运营分析的发现更好。
Rudin表示,Hadoop对于在一个数据集中寻找***水平的细节也不有好处,但关系型数据库对于存储转化和汇总的数据更有意义。
“结论是,为你的任何需求使用正确的技术。”他说。
Rudin还有另外一个假设,即分析大数据的单纯行为提供有价值的见解。“问题是为无人问津的问题想出更加辉煌的答案,”他说,“要弄清楚什么是正确的问题仍然是一门艺术。”
Facebook一直专注于聘用合适的员工来运行其分析业务,不仅要拥有统计博士学位,还要精通业务。
“当你面试的时候,不要只关注‘我们怎么计算这个指标’”Rudin说,而是要给他们一个商业案例研究,并问他们哪些是最重要的指标。
企业还应该尝试培养“人人分析,”Rudin表示。
Facebook运行一个内部“数据营(data camp)”,一个两星期教导员工分析的计划。Rudin说,产品经理,设计师,工程师,甚至财务部门工作人员都出席。“人人参与其中的意义,你给大家一个数据的共同语言,他们可以用来讨论问题和难题。”他说。
Facebook还动摇了统计人员和业务团队的组织。如果统计人员保持独立,他们往往“坐在那里等待来自业务领域的请求并回应他们”,而不是主动的。但是,如果统计人员被放置到业务单位,“你会发现多个团体试图冗余地解决问题。”他说。
Facebook已经采用“嵌入式”的模式,把分析师放在业务团队,但他们向更高级别的分析师报告,这有助于避免重复劳动。