一、B 站的用数场景及数据开发治理平台的概况介绍
B 站大数据开发治理平台历经 5 年建设,目前包含数据集成、数据开发、数据治理、数据安全、数据分析等多个模块,服务于公司各个业务部门。
B 站数据平台的使用者覆盖了 60% 的员工,其面向的用户群体主要是技术开发、产品、运营、算法工程师、分析师、数据开发等。通过对用户的数据能力进行分层,我们可将数据平台的用户大致区分为高阶开发、中阶用户、数据小白等 3 个用户群体。
基于用户分群,我们提出了数据平台的产品定位:专业,门槛,标准化,闭环。
- 专业:数据平台需要满足专业的数据开发及分析诉求,提升数据供给效率。
- 门槛:数据平台需要满足产运等用户低门槛的建数、用数、取数要求。
- 标准化:数据平台需要快速满足多业务、各部门不同的数据诉求,功能既要通用,也要足够灵活。
- 闭环:数据平台在 B 站也是数据中台,我们同时承担了数据运营、成本治理、规范约束、质量监控等管理角色,因此平台需要替业务完成数据从入仓、生产、运维、治理等流程的全闭环。
根据不用的业务场景和用数诉求,平台主要包括数据生成、数据消费、数据管理三大场景,分别提供相应的数据服务。
本文将重点介绍数据地图和数据治理产品的设计。
二、基于价值体系的数据地图产品建设
1、数据运营的痛点
面向多业务的数据中台团队或数仓团队,当模型基数较大时,往往会面临数据运营难的痛点。如何通过数据平台,结合数据内容的建设,解决用户找数用数痛点,是数据运营产品的核心目标。随着模型规模的快速增长,我们从 20 年开始,也逐渐面临数据运营难的痛点。数据运营的痛点是分阶段暴露的:
2、数据运营的解决方案
针对上述痛点,我们提出了一套解决方案:完善产品功能体系,推动数据运营体系的建设,建设数据模型的评估能力。
3、数据地图产品建设
数据地图是一个基于元数据的数据门户,它能够帮助用户更好地理解和管理数据资源。作为一个企业的数据中心,数据地图具备多种功能,包括数据检索、元数据详情、数据预览、数据血缘和数据管理等。这些功能的存在,有效地提升了用户的找数效率,降低了数据理解难度,也降低了使用门槛。
通过完善洞察推荐、全文检索、类目体系、数据画像、UGC 及 API、数据专辑、数据血缘、影响分析等八大产品矩阵,能够满足用户在找数、用数、数据理解、数据治理、数据推广等不同场景下的使用诉求。
4、数据运营方法
基于数据地图产品体系的迭代,沉淀了一些数据运营方法。
- 点(用户):1V1 标准化
采用线上和线下的 1v1 方案针对问题进行答疑和解惑,使用工具咨询或者解决数仓相关问题。
- 线(业务):周期节点化
定期线下结合数据内容对运营同学进行培训、访谈以及工具的普及。
- 面(平台):1VN 体系化
将点和面的问题及解决方案进行记录,通过平台进行沉淀,并体系化地反馈给业务方。
通过点线面结合的运营方法,结合线上和线下的运营策略,形成了 B 站的数据运营方案,同时从数据价值、用户指标、用户访谈、定期调研四个评估体系,能够更有效的完成策略和效率提升。
5、评估数据价值
经过产品功能迭代和运营体系化建设,已经可以很好地引导用户找数、用数,但是我们发现众多的数据模型,仍无法让业务有“模型建设得好”的感知,为了更好地衡量数据价值,对模型进行 ROI 评估,驱动良性的模型运营和数据建设,构建了模型价值评估体系。通过衡量数据价值,能有效提升业务的数据认可度,基于此可建设数据推荐策略、数据开发价值评估、模型的管理策略和治理策略。
6、数据价值计算
根据数据价值,设计了模型价值分。数据应用场景主要包括数据查询热度、ETL 引用情况、API 引用情况、BI报表热度、数据应用使用情况、出仓业务场景热度。价值元素主要包括内部人效、外部基线等级、外部数据质量、安全等级、数据新鲜度等方面,根据不同场景和不同因素进行份子权重设定,并通过产品化方案,更有效地支持多业务自定义数据价值。
7、数据地图效果展示
以下是具体场景下的产品功能展示:
- 找数场景
包括元数据展示、标签展示、用户洞察、数据专辑功能等功能。
- 用数场景
主要集中在表详情页的功能,提供了丰富的应用功能,包括基本信息、业务信息、存储信息、标签等。
- 血缘&影响分析
基于血缘数据,沉淀了血缘地图和归因/影响分析两个产品。血缘地图提供手动探查、可视化分析、链路分析的功能;归因/影响分析功能提供基于血缘的向上和向下的数据聚合分析的功能,主要针对下游数据异动快速定位问题、口径变更对基线的影响的问题,提供批量血缘查询、信息聚合、拉群和通知的功能。
产品功能、数据运营体系、以及数据价值评价三方面的建设,为数据运营带来了显著提升。经过迭代,数据地图渗透率从 30% 提升到 60% ;推荐表热度提升 40%,用户评价提升 33%。同时数据价值被业务认可,价值分 Top 热度提升 20%,用户能找好数,用对数,数据建设价值可被衡量和评估。
三、基于抽象配置的数据治理产品建设
在 B 站,表和任务以每半年翻倍的速度进行增长。从 22 年开始,我们关注到数据治理需要以更高效的方式进行推进和落地,因此提出了用 B 端产品化的思路针对数据治理方案提供的通用治理工具,以高效解决数据治理问题。
1、建设背景及产品架构
在业务快速发展期间,数据资产增长较快、资产管理混乱,数据治理工作往往迫在眉睫。通常数据治理工作有如下痛点:
- 数据治理入手及落地难,操作和流程无法指导
- 运动式,治理工作不可持续
- 治理成效的可视化不足
- 治理不到人,权责不分明
- 运营成本高,消耗人力
从数据成本、数据规范、数据质量、数据安全四大方向入手进行治理。治理中心的产品框架主要由管理运营、治理配置& 应用、基础数据模块组成。以元数据为基础数据,基于灵活配置,提升治理效果。
2、数据治理运营机制及工作流程
结合数据委员会、治理工具、运营机制三个方面,逐渐形成了一套持续可执行的治理运营流程。治理工作推进流程采用策略线上 POC->数据委员会发布->策略上线的新流程,对比之前流程有很大的改善。
3、B 站治理运营的推进痛点和诉求
在 B 站,数据治理运营的痛点主要有三个方向:治理的资产对象多、资产的操作路径特殊、存量问题资产多,增量快。
4、治理工具的解决方案
通过丰富的元素和配置,可以实现用户个性化诉求,解决不同业务、不同视角、不同用户制定的形态各异的治理策略,比如:配置流程固定化、配置参数规范化、配置操作简单化。让业务自主完成治理方案的制定、规则定义和工作推进。
5、抽象:通过通用化配置实现个性化
以下是针对上述三个数据治理问题,提供的通用化配置的产品功能。
- 抽象治理对象
将资产抽象为统一的元数据对象,每个治理对象有通用的属性和自定义属性,围绕元数据进行治理数据建模。每个对象的属性,均可以通过动态参数如{jobid} 的形式被获取,形成全局变量。
- 抽象操作和处理方案
充分利用现有功能和接口,通过配置 url、接口入参等,快速达到治理动作复用和上线,极大提升功能落地效率。
- 统一治理问题的生成和处理流程
通过开发数据策略、配置治理对象、配置操作流程、动态参数及使用文案,可快速生成一个待办问题生成器;通过调度,每天自动扫描文档,生成待办明细,推送用户治理。
6、效果及收益
目前通过治理工具,B 站已上线了 62 个策略,每个策略平均开发和上线时间 2-3 小时。累计生成治理问题 8w+,累计处理治理问题 2w+,累计治理金额超 500w,累计节约人效 100+ 人日。
四、核心工作及未来规划
通过流程化管理,将线下 SOP 操作线上化,针对目前原子操作的产品弊端,解决数据治理流程长、执行进度不可观测的用户问题。同时能够支持平台诸多自动化治理、推送流程的落地,提升开发效率。