数据仓库(11)什么是大数据治理,数据治理的范围是哪些

数据仓库(11)什么是大数据治理,数据治理的范围是哪些

什么是大数据治理,大数据治理包含哪些方面?大数据时代的到来,给了我们很多的机遇,也有很多的挑战。最基础的调整也是大数据的计算和管理,数据治理是一个特别重要的大数据基础,他保证着数据能否被最好的应用,保证着数据的安全,规范,准确等。那么大数据治理到底能治什么,怎么治?

数据治理主要包含七个方面。


数据治理范围

主数据管理

即数据本身的管理,对于数据本身,基于数据仓库,我们做了数据的分层、数据域的划分、基于维度建模的架构、命名规范、对需要共享的数据建立统一视图和集中管理等,这些都是属于这个主数据管理的范围。

元数据管理

元数据,即数据的数据。包含两个个方面,技术元数据、业务元数据。用于打通了源数据、数据仓库、数据应用,记录了数据从产生到消费的全过程。元数据主要记录数据仓库中模型的定义、各层级间的映射关系、监控数据仓库的数据状态及 ETL 的任务运行状态。

在数据仓库系统中,元数据可以帮助数据仓库管理员和开发人员非常方便地找到他们所关心的数据,用于指导其进行数据管理和开发工作,提高工作效率。

1.技术元数据

技术元数据是存储关于数据仓库系统技术细节的数据,是用于开发和管理数据仓库使用的数据。

  • 数据本身技术元数据有:表、列、分区等信息。记录了表的表名。分区信息、责任人信息、文件大小、表类型,生命周期,以及列的字段名、字段类型、字段备注、是否是分区等信息。
  • 分布式计算系统运行元数据,如集群上所有作业运行信息,类似于Hive Job 日志,包括作业类型、实例名称、输入输出、 SQL 、运行参数、执行时间、最细粒度的Instance 执行信息等。数据同步、计算任务、任务调度等信息,包括数据同步的输入输出表和字段,以及同步任务本身的节点信息,计算任务主要有输入输出、任务本身的节点信息,任务调度主要有任务的依赖类型、依赖关系等,以及不同类型调度任务的运行日志等。
  • 数据质量和运维相关元数据,如任务监控、运维报警、数据质量、故障等信息,包括任务监控运行日志、告警配置及运行日志、故障信息等。

2.业务元数据

业务元数据从业务角度描述了数据仓库中的数据,它提供了介于使用者和实际系统之间的语义层,使得不懂计算机技术的业务人员也能够懂”数据仓库中的数据。

  • 企业业务元数据,有维度及属性、业务过程、指标等的规范化定义,用于更好地管理和使用数据。
  • 数据应用元数据,如数据报表、数据产品等的配置和运行元数据。

数据标准

数据标准建设提供全面完整的数据标准管理流程及办法,用于决定和建立单一、准确、权威的事实来源,实现大数据平台数据的完整性、有效性、一致性、规范性、开放性和共享性管理,并为数据质量检查、数据安全管理提供标准依据。比如,“客户类型”是一个数据项,应该有统一的业务含义,将客户归类为大客户、一般客户的规则是什么,数据项的取值是几位长度,有哪些有效值(如01,02,03)等。这方面有国际标准可以参考,如ISO11179,国内很多行业也制定了行业数据标准,如电子政务数据元、金融行业统计数据元等等。共同的问题是,标准定义出来之后,执行的情况怎么样?是否真正落实到IT系统了,谁为数据的管理者等。

这里主要包含三个方面,技术定义、业务定义以及数据管理定义。

数据质量管理

数据质量管理,包含五个部分,数据的唯一性、完整性、准确性、一致性、有效性。数据质量管理,就是通过特定的规则对数据的五个方面进行测试,检查,监控和告警。


数据质量
  • 唯一性:不存在无意义的重复数据
  • 完整性:数据完整且连续
  • 一致性:数据在多数据源中意义一致
  • 有效性:这里主要指数据在分析的时间点是有效,而非过期或失效数据
  • 准确性:数据合理、准确,并符合数据类型的标准

数据安全管理

数据安全管理贯穿于数据治理全过程,提供对隐私数据的加密、脱敏、模糊化处理、数据库授权监控等多种数据安全管理措施,全方位保障数据的安全运作。

数据计算管理

对大数据集群每天存储资源、计算资源消耗等进行管理、监控、优化。如何降低计算资源的消耗,提高任务执行的性能,提升任务产出的时间。一般从系统优化和任务优化两个方面进行计算优化。

数据存储管理

在大数据时代,对于数据爆炸式的增长,存储管理也将面临着一系列挑战。如何有效地降低存储资源的消耗,节省存储成本,也是数据治理的一个目标。对于数据存储,目前业界的一些主要的处理方式,包括数据压缩、数据重分布、数据垃圾检测和清理、数据生命周期管理等。

资料分享

整理了数据仓库推荐经典书籍资料包,学习数据仓库必备,包含下面的内容,包含《阿里巴巴大数据之路》、《数据仓库工具箱》、《Hadoop构建数据仓库实践》等经典书籍PDF,带书签,快点去保存下来吧。

获取资料方式:【腾讯文档】大数据数仓经典最值得阅读书籍推荐资料分享

也可以直接微信搜索“张飞的猪大数据分享”关注一下公众号,公众号会不定时分享技术学习的文章和资料,回复“数据仓库”获取下载链接。

参考资料

张飞的猪:数据仓库(1)什么是数据仓库,数仓有什么特点

张飞的猪:数据仓库(2)数仓、大数据与传统数据库的区别

张飞的猪:数据仓库(3)数仓建模之星型模型与维度建模

张飞的猪:数据仓库(4)基于维度建模的数仓KimBall架构

张飞的猪:数据仓库(5)数仓Kimball与Inmon架构的对比

张飞的猪:数据仓库(6)数仓分层设计

张飞的猪:数据仓库(7)数仓规范设计

张飞的猪:数据仓库(8)数仓事实表和维度表技术

张飞的猪:数据仓库(9)数仓缓慢变化维度数据的处理

张飞的猪:数据仓库(10)数仓拉链表开发实例

张飞的猪:数据仓库(11)什么是大数据治理,数据治理的范围是哪些

张飞的猪:数据仓库(12)数据治理之数仓数据管理实践心得

张飞的猪:数据仓库(13)大数据数仓经典最值得阅读书籍推荐

编辑于 2022-08-17 21:38