新技术对传统学科的颠覆:系谱网使用大数据寻亲问祖

云计算
Ancestry.com服务幕后的人已经意识到了这一点。现在,他们正在最大限度的利用其4PB的数据库(包括官方的个人记录,用户提交的信息和其它有新特征的数据),为用户提供由计算机生成但是可编辑的祖先信息摘要。

家谱网爱好者可能认为在Ancestry网上通过人口普查记录、出生证明和其他文件来寻找亲属的信息这件事很有趣。当向朋友和亲属来炫耀自己的个人记录时,就显得不那么有说服力了,而且讲述一个祖先的社会档案并不简单。

Ancestry.com服务幕后的人已经意识到了这一点。现在,他们正在最大限度的利用其4PB的数据库(包括官方的个人记录,用户提交的信息和其它有新特征的数据),为用户提供由计算机生成但是可编辑的祖先信息摘要。

Ancestry网推出的这项服务名为Story View,本季度早些时候只针对一小部分客户,现在10%的客户都可以享受这一服务了。该公司的产品执行副总裁Eric Shoup在最近一次采访中表示,他们计划在正式发布Story View功能前,将对比Stroy View功能使用前后的情况,以进一步完善Story View。通过允许用户围绕一个单页的文档图像以及编辑文件中的文本部分,Ancestry已经增强了这项功能的互动性。

它是如何工作的

Story View功能基于一个比较成熟的工具,该工具可以对亲属数据包括一些手写的记录进行数据挖掘。但是有时只有关键字段,如姓名和居住地。客户可以访问手写记录,定位到一个亲属被描述的位置,查看未被处理的数据,比如那个人的职业。

通过逐步指导"keyers"解析手写记录,并将记录转换为可搜索的文本,Ancestry正在试图通过手写记录获取更多信息。街道地址已经通过这种方式添加进去,其它的字段以后也会添加。同时,由于Ancestry在不断扩充其资料库,社会档案也会有更多的来源。

 

 

为了从多个文档中提取信息生成一个段落总结,Ancestry求助于Narrative Science,该公司成立于2010年,专注于使用机器生成可读的拷贝(传说中会让我们小编都失业的技术)。早期应用于体育赛事的报道和上市公司的收益报告,现在Narrative Science技术被更多的用于个人信息处理。

Ancestry叙事(narrative)和内容(context)服务团队的首席开发人员Reed McGrew说,当Ancestry第一次采用Narrative Science技术时,只能分批地产生数据。它们会生成大量的财务报告,这并不是我们试图提供的,因为这种批处理确实很慢。

几个月内,Narrative Science开发了一个新的API,这个API可以在更精细的水平上工作。McGrew说:“它们基于单个用户生成社会档案”。

Ancestry精于处理家谱信息,该公司的编辑提供编辑的标准,或“规则”,规定了narratives收发数据的格式。McGrew解释了Ancestry标准:“比如遇到孩子只比母亲小10岁的记录,这更像是输入错误,虽然现实情况中也会发生,但多数情况下不会,所以我们会把这条记录当成错误的来处理”。

 

 

包含Shoup某个亲属信息的记录

在Story View中,一个祖先的图片和生活摘要下面是一个缩放的文档图片,而不是结构化文本的离散字段。图片的旁边,Ancestry会提供从文档信息中生成的导语。一旦Ancestry发现所有的记录都和一个人有关,就会根据Ancestry的编辑规则选择出特定的事实组装成完整的句子。一旦基于文档的导语显示在浏览器中,用户就可以在共享前编辑和保存它们。

很难共享

Ancestry的CIO Scott Sorenson说,我们面临的挑战并不在于创建和存储用户的新数据和网页。存储会变得越来越便宜,精确的手写记录处理也不是问题。通常keyers都在中国找,中国的字符集比我们的字母表要大很多,他们很擅长键入这些记录。

真正困难的部分是确保服务的高可用性,数以百万的用户提供正确的文档和文本,并确保网站流量高峰时不致崩溃,但是Story View的目标之一是让更多的人浏览网站内容并最终注册。

责任编辑:王程程 来源: GigaOM
相关推荐

2014-03-12 10:31:32

大数据

2011-11-09 13:06:48

OpenFlow

2022-11-21 14:33:53

大数据数据存储机器学习

2015-08-19 10:10:39

CIO时代网

2015-09-02 09:37:48

2018-04-25 11:40:51

ODCC

2015-10-16 09:14:36

数据中心传统数据中心

2013-09-18 13:57:00

大数据时代

2013-09-17 09:21:51

2015-10-26 17:40:05

AWS QuickSi大数据创新技术

2020-01-13 07:36:30

机器人技术传统行业

2012-12-14 10:02:29

2012-12-12 13:06:00

2014-06-19 09:49:26

大数据

2014-03-11 10:19:16

ThoughtWork

2014-06-03 18:57:12

浪潮HCM

2015-09-24 10:04:44

物联网医疗行业

2013-07-12 10:30:34

2016-05-03 15:13:34

大数据大数据技术数据管理

2011-07-05 11:33:27

点赞
收藏

51CTO技术栈公众号