李林超博客
首页
归档
留言
友链
动态
关于
归档
留言
友链
动态
关于
首页
大数据
正文
01.数仓建设之数仓基本概念
Leefs
2022-09-20 PM
991℃
0条
[TOC] ### 前言 本篇以及接下来更新的几篇关于数仓建设的文章都转载于大佬**园陌**，文章通俗易懂、内容全面非常值得向大家推荐！！！ 小编最近也在学习数仓相关知识，但是尝试好多次还是不能系统全面的整理出一套让自己满意的文章出来，特地转载大佬的文章大家一起学习，共同进步。 再次感谢大佬，每篇文章末尾都会附上原文链接地址。 ### 一、数仓基本概念 #### 1、数据仓库架构 我们在谈数仓之前，为了让大家有直观的认识，先来谈数仓架构，“**架构**”是什么？这个问题从来就没有一个准确的答案。这里我们引用一段话：在软件行业，一种被普遍接受的架构定义是**指系统的一个或多个结构。结构中包括软件的构建（构建是指软件的设计与实现），构建的外部可以看到属性以及它们之间的相互关系**。 这里参考此定义，**把数据仓库架构理解成构成数据仓库的组件及其之间的关系**，画出下面的数仓架构图：  上图中显示的整个数据仓库环境包括**操作型系统**和**数据仓库系统**两大部分。操作型系统的数据由各种形式的业务数据组成，这些数据经过抽取、转换和装载（ETL）过程进入数据仓库系统。 任何事物都是随着时间的演进变得越来越完善，当然也是越来越复杂，数仓也不例外。在数据仓库技术演化过程中，产生了几种主要的架构方法，包括**数据集市架构、Inmon企业信息工厂架构、Kimball数据仓库架构、混合型数据仓库架构**。这几种架构我们后面再讲，接下来看下数仓的基本概念。 #### 2、数据仓库概念 英文名称为Data Warehouse，可简写为DW或DWH。数据仓库的目的是**构建面向分析的集成化数据环境，为企业提供决策支持**（Decision Support）。它出于分析性报告和决策支持目的而创建。 数据仓库本身并不“生产”任何数据，同时自身也不需要“消费”任何的数据，数据来源于外部，并且开放给外部应用，这也是为什么叫“仓库”，而不叫“工厂”的原因。 **1) 基本特征** 数据仓库是**面向主题的、集成的、非易失的**和**时变的**数据集合，用以支持管理决策。 **①面向主题:** 传统数据库中，最大的特点是面向应用进行数据的组织，各个业务系统可能是相互分离的。而数据仓库则是面向主题的。主题是一个抽象的概念，是较高层次上企业信息系统中的数据综合、归类并进行分析利用的抽象。在逻辑意义上，它是对应企业中某一宏观分析领域所涉及的分析对象。 **②集成性:** 通过对分散、独立、异构的数据库数据进行**抽取、清理、转换和汇总**便得到了数据仓库的数据，这样保证了数据仓库内的数据关于整个企业的一致性。 数据仓库中的综合数据不能从原有的数据库系统直接得到。因此在数据进入数据仓库之前，必然要经过统一与综合，这一步是数据仓库建设中最关键、最复杂的一步，所要完成的工作有： - **要统一源数据中所有矛盾之处**，如字段的同名异义、异名同义、单位不统一、字长不一致，等等。 - **进行数据综合和计算。**数据仓库中的数据综合工作可以在从原有数据库抽取数据时生成，但许多是在数据仓库内部生成的，即进入数据仓库以后进行综合生成的。 下图说明一个保险公司综合数据的简单处理过程，其中数据仓库中与“保险” 主题有关的数据来自于多个不同的操作型系统。这些系统内部数据的命名可能不同，数据格式也可能不同。把不同来源的数据存储到数据仓库之前，需要去除这些不一致。  **③非易失性（不可更新性）:** 数据仓库的数据反映的是一段相当长的时间内**历史数据的内容**，是不同时点的数据库快照的集合，以及基于这些快照进行统计、综合和重组的导出数据。 数据非易失性主要是针对应用而言。数据仓库的用户对数据的操作大多是数据查询或比较复杂的挖掘，一旦数据进入数据仓库以后，一般情况下被较长时间保留。数据仓库中一般有大量的查询操作，但修改和删除操作很少。因此，**数据经加工和集成进入数据仓库后是极少更新的，通常只需要定期的加载和更新**。 **④时变性:** 数据仓库包含各种粒度的历史数据。数据仓库中的数据可能与某个特定日期、星期、月份、季度或者年份有关。数据仓库的目的是通过分析企业过去一段时间业务的经营状况，挖掘其中隐藏的模式。虽然**数据仓库的用户不能修改数据，但并不是说数据仓库的数据是永远不变的**。分析的结果只能反映过去的情况，当业务变化后，挖掘出的模式会失去时效性。因此数据仓库的数据需要更新，以适应决策的需要。从这个角度讲，数据仓库建设是一个项目，更是一个过程。 数据仓库的数据随时间的变化表现在以下几个方面： - 数据仓库的数据时限一般要远远长于操作型数据的数据时限。 - 操作型系统存储的是当前数据，而数据仓库中的数据是历史数据。 - 数据仓库中的数据是按照时间顺序追加的，它们都带有时间属性。 #### 3、为什么要有数据仓库 先来看下数据仓库的数据从哪里来，最终要到哪里去？ **通常数据仓库的数据来自各个业务应用系统**。业务系统中的数据形式多种多样，可能是 Oracle、MySQL、SQL Server等关系数据库里的结构化数据，可能是文本、CSV等平面文件或Word、Excel文档中的数据，还可能是HTML、XML等自描述的半结构化数据。这些业务数据经过一系列的数据抽取、转换、清洗，最终以一种统一的格式装载进数据仓库。数据仓库里的数据作为分析用的数据源，**提供给后面的即席查询、 分析系统、数据集市、报表系统、数据挖掘系统等**。 这时我们就想了，为什么不能把业务系统的数据直接拿来供即席查询、分析系统、报表系统等使用呢，为什么要经过数据仓库这一步？实际上在数仓出现之前，确实是这么做的，但是有很多数据分析的先驱者当时已经发现，简单的“直接访问”方式很难良好工作，这样做的失败案例数不胜数。 下面列举一些直接访问业务系统无法工作的原因： - 某些业务数据由于安全或其他因素不能直接访问。 - 业务系统的版本变更很频繁，每次变更都需要重写分析系统并重新测试。 - 很难建立和维护汇总数据来源于多个业务系统版本的报表。 - 业务系统的列名通常是硬编码，有时仅仅是无意义的字符串，这让编写分析系统更加困难。 - 业务系统的数据格式，如日期、数字的格式不统一。 - 业务系统的表结构为事务处理性能而优化，有时并不适合查询与分析。 - 没有适当的方式将有价值的数据合并进特定应用的数据库。 - 没有适当的位置存储元数据。 - 用户需要看到的显示数据字段，有时在数据库中并不存在。 - 通常事务处理的优先级比分析系统高，所以如果分析系统和事务处理运行在同一硬件之上，分析系统往往性能很差。 - 有误用业务数据的风险。 - 极有可能影响业务系统的性能。 **尽管需要增加软硬件的投入，但建立独立数据仓库与直接访问业务数据相比，无论是成本还是带来的好处，这样做都是值得的**。随着处理器和存储成本的逐年降低，数据仓库方案的优势更加明显，在经济上也更具可行性。 #### 4、数据仓库与数据库的区别 数据库与数据仓库的区别实际讲的是 OLTP 与 OLAP 的区别。 **操作型处理，叫联机事务处理 OLTP**（On-Line Transaction Processing，），也可以称面向交易的处理系统，它是针对具体业务在数据库联机的日常操作，通常对少数记录进行查询、修改。**用户较为关心操作的响应时间、数据的安全性、完整性和并发支持的用户数等问题**。传统的数据库系统作为数据管理的主要手段，主要用于操作型处理，像MySQL，Oracle等关系型数据库一般属于OLTP。 **分析型处理，叫联机分析处理 OLAP**（On-Line Analytical Processing）一般针对某些主题的历史数据进行分析，支持管理决策。 首先要明白，数据仓库的出现，并不是要取代数据库。数据库是面向事务的设计，数据仓库是面向主题设计的。数据库一般存储业务数据，数据仓库存储的一般是历史数据。 数据库设计是尽量避免冗余，一般针对某一业务应用进行设计，比如一张简单的User表，记录用户名、密码等简单数据即可，符合业务应用，但是不符合分析。**数据仓库在设计是有意引入冗余，依照分析需求，分析维度、分析指标进行设计**。 **数据库是为捕获数据而设计，数据仓库是为分析数据而设计**。 以银行业务为例。数据库是事务系统的数据平台，客户在银行做的每笔交易都会写入数据库，被记录下来，这里，可以简单地理解为用数据库记账。数据仓库是分析系统的数据平台，它从事务系统获取数据，并做汇总、加工，为决策者提供决策的依据。比如，某银行某分行一个月发生多少交易，该分行当前存款余额是多少。如果存款又多，消费交易又多，那么该地区就有必要设立ATM了。 显然，银行的交易量是巨大的，通常以百万甚至千万次来计算。事务系统是实时的，这就要求时效性，客户存一笔钱需要几十秒是无法忍受的，这就要求数据库只能存储很短一段时间的数据。而分析系统是事后的，它要提供关注时间段内所有的有效数据。这些数据是海量的，汇总计算起来也要慢一些，但是，只要能够提供有效的分析数据就达到目的了。 **数据仓库，是在数据库已经大量存在的情况下，为了进一步挖掘数据资源、为了决策需要而产生的，它决不是所谓的“大型数据库”。** #### 5、数据仓库分层架构 按照数据流入流出的过程，数据仓库架构可分为：**源数据、数据仓库、数据应用。**  数据仓库的数据来源于不同的源数据，并提供多样的数据应用，数据自下而上流入数据仓库后向上层开放应用，而数据仓库只是中间集成化数据管理的一个平台。 **源数据**：此层数据无任何更改，直接沿用外围系统数据结构和数据，不对外开放；为临时存储层，是接口数据的临时存储区域，为后一步的数据处理做准备。 **数据仓库**：也称为细节层，DW层的数据应该是一致的、准确的、干净的数据，即对源系统数据进行了清洗（去除了杂质）后的数据。 **数据应用**：前端应用直接读取的数据源；根据报表、专题分析需求而计算生成的数据。 数据仓库从各数据源获取数据及在数据仓库内的数据转换和流动都可以认为是ETL（**抽取Extra, 转化Transfer, 装载Load**）的过程，ETL是数据仓库的流水线，也可以认为是数据仓库的血液，它维系着数据仓库中数据的新陈代谢，而数据仓库日常的管理和维护工作的大部分精力就是保持ETL的正常和稳定。 **那么为什么要数据仓库进行分层呢?** - **用空间换时间**，通过大量的预处理来提升应用系统的用户体验（效率），因此数据仓库会存在大量冗余的数据；不分层的话，如果源业务系统的业务规则发生变化将会影响整个数据清洗过程，工作量巨大。 + 通过数据分层管理可以**简化数据清洗的过程**，因为把原来一步的工作分到了多个步骤去完成，相当于把一个复杂的工作拆成了多个简单的工作，把一个大的黑盒变成了一个白盒，每一层的处理逻辑都相对简单和容易理解，这样我们比较容易保证每一个步骤的正确性，当数据发生错误的时候，往往我们只需要局部调整某个步骤即可。 #### 6、主要数据仓库架构 通过上面的内容我们大概了解数仓的概念，接下来就看下数仓的几种演进架构。 **1）数据集市架构** 数据集市是按主题域组织的数据集合，用于支持部门级的决策。有两种类型的数据集市：**独立数据集市**和**从属数据集市**。 **① 独立数据集市** 独立数据集市集中于部门所关心的单一主题域，数据以部门为基础部署，无须考虑企业级别的信息共享与集成。例如，制造部门、人力资源部门和其他部门都各自有他们自己的数据集市。  **优点**：因为一个部门的业务相对于整个企业要简单，数据量也小得多，所以部门的独立数据集市具有周期短、见效快的特点。 **缺点**： - 从业务角度看，当部门的分析需求扩展，或者需要分析跨部门或跨主题域的数据时，独立数据市场会显得力不从心。 - 当数据存在歧义，比如同一个产品，在A部门和B部门的定义不同时，将无法在部门间进行信息比较。 - 每个部门使用不同的技术，建立不同的ETL的过程，处理不同的事务系统，而在多个独立的数据集市之间还会存在数据的交叉与重叠，甚至会有数据不一致的情况。 **②从属数据集市** 从属数据集市的数据来源于数据仓库。数据仓库里的数据经过整合、重构、汇总后传递给从属数据集市。  建立从属数据集市的好处主要有： - **性能**：当数据仓库的查询性能出现问题，可以考虑建立几个从属数据集市，将查询从数据仓库移出到数据集市。 - **安全**：每个部门可以完全控制他们自己的数据。 - **数据一致**：因为每个数据集市的数据来源都是同一个数据仓库，有效消除了数据不一致的情况。 **2）Inmon企业工厂架构**  上图的前两步不过多介绍，直接从第三步开始。 **企业级数据仓库**：是该架构中的核心组件。正如Inmon数据仓库所定义的，企业级数据仓库是一个细节数据的集成资源库。其中的数据以最低粒度级别被捕获，存储在满足三范式设计的关系数据库中。 **部门级数据集市**：是面向主题数据的部门级视图，数据从企业级数据仓库获取。数据在进入部门数据集市时可能进行聚合。数据集市使用多维模型设计，用于数据分析。重要的一点是，所有的报表工具、BI工具或其他数据分析应用都从数据集市查询数据，而不是直接查询企业级数据仓库。 **3）Kimball数据仓库架构**  对比上一张图可以看到，Kimball与Inmon两种架构的主要区别在于核心数据仓库的设计和建立。 Kimball的数据仓库包含高粒度的企业数据，使用多维模型设计，这也意味着**数据仓库由星型模式的维度表和事实表构成**。分析系统或报表工具可以直接访问多维数据仓库里的数据。 在此架构中的数据集市也与Inmon中的不同。这里的**数据集市是一个逻辑概念，只是多维数据仓库中的主题域划分**，并没有自己的物理存储，也可以说是虚拟的数据集市。 **4）混合型数据仓库架构** 所谓的混合型结构，指的是在一个数据仓库环境中，**联合使用Inmon和Kimball两种架构**。  从架构图可以看到，这种架构将Inmon方法中的数据集市部分替换成了一个多维数据仓库，而数据集市则是多维数据仓库上的逻辑视图。 **使用这种架构的好处是**：既可以利用规范化设计消除数据冗余，保证数据的粒度足够细；又可以利用多维结构更灵活地在企业级实现报表和分析。 #### 7、数据仓库元数据的管理 **元数据（Meta Date），主要记录数据仓库中模型的定义、各层级间的映射关系、监控数据仓库的数据状态及ETL的任务运行状态**。一般会通过元数据资料库（Metadata Repository）来统一地存储和管理元数据，其主要目的是使数据仓库的设计、部署、操作和管理能达成协同和一致。 **元数据是数据仓库管理系统的重要组成部分**，元数据管理是企业级数据仓库中的关键组件，贯穿数据仓库构建的整个过程，直接影响着数据仓库的构建、使用和维护。 - 构建数据仓库的主要步骤之一是ETL。这时元数据将发挥重要的作用，它定义了源数据系统到数据仓库的映射、数据转换的规则、数据仓库的逻辑结构、数据更新的规则、数据导入历史记录以及装载周期等相关内容。数据抽取和转换的专家以及数据仓库管理员正是通过元数据高效地构建数据仓库。 - 用户在使用数据仓库时，通过元数据访问数据，明确数据项的含义以及定制报表。 - 数据仓库的规模及其复杂性离不开正确的元数据管理，包括增加或移除外部数据源，改变数据清洗方法，控制出错的查询以及安排备份等。 元数据可分为技术元数据和业务元数据。**技术元数据**为开发和管理数据仓库的IT 人员使用，它描述了与数据仓库开发、管理和维护相关的数据，包括数据源信息、数据转换描述、数据仓库模型、数据清洗与更新规则、数据映射和访问权限等。而**业务元数据**为管理层和业务分析人员服务，从业务角度描述数据，包括商务术语、数据仓库中有什么数据、数据的位置和数据的可用性等，帮助业务人员更好地理解数据仓库中哪些数据是可用的以及如何使用。 由上可见，元数据不仅定义了数据仓库中数据的模式、来源、抽取和转换规则等，而且是整个数据仓库系统运行的基础，**元数据把数据仓库系统中各个松散的组件联系起来，组成了一个有机的整体**。 #### 8、数仓常见术语解析 本小节结构如下图所示：  **1）数仓名词解释** **① 实体** 实体是指依附的主体，就是我们分析的一个对象，比如我们分析商品的销售情况，如华为手机近半年的销售量是多少，那华为手机就是一个实体；我们分析用户的活跃度，用户就是一个实体。当然实体也可以现实中不存在的，比如虚拟的业务对象，活动，会员等都可看做一个实体。 **实体的存在是为了业务分析，作为分析的一个筛选的维度，拥有描述自己的属性，本身具有可分析的价值**。 **②维度** 维度就是看待问题的角度，分析业务数据，从什么角度分析，就建立什么样的维度。所以维度就是要对数据进行分析时所用的一个量，比如你要分析产品销售情况，你可以选择按商品类别来进行分析，这就构成一个维度，把所有商品类别集合在一起，就构成了维度表。 **③度量** 度量是业务流程节点上的一个数值。比如销量，价格，成本等等。 **事实表中的度量可分为三类：完全可加，半可加，不可加**。 - 完全可加的度量是最灵活，最有用的，比如说销量，销售额等，可进行任意维度汇总； - 半可加的度量可以对某些维度汇总，但不能对所有维度汇总，差额是常见的半可加度量，它除了时间维度外，可以跨所有维度进行加法操作； - 还有一种是完全不可加的，例如：比率。对于这类非可加度量，一种好的方法是，**尽可能存储非可加度量的完全可加分量**，并在计算出最终的非可加事实前，将这些分量汇总到最终的结果集中。 **④粒度** 粒度就是业务流程中对度量的单位，比如商品是按件记录度量，还是按批记录度量。 在数仓建设中，我们说这是用户粒度的事实表，那么表中每行数据都是一个用户，无重复用户；例如还有销售粒度的表，那么表中每行都是一条销售记录。 **选择合适的粒度级别是数据仓库建设好坏的重要关键内容**，在设计数据粒度时，通常需重点考虑以下因素： - 要接受的分析类型、可接受的数据最低粒度和能存储的数据量； - 粒度的层次定义越高，就越不能在该仓库中进行更细致的分析； - 如果存储资源有一定的限制，就只能采用较高的数据粒度划分； - **数据粒度划分策略一定要保证：数据的粒度确实能够满足用户的决策分析需要，这是数据粒度划分策略中最重要的一个准则**。 **⑤口径** **口径就是取数逻辑（如何取数的）**，比如**要取的数**是10岁以下儿童中男孩的平均身高，这就是统计的口径。 **⑥指标** **指标是口径的衡量值，也就是最后的结果**。比如最近七天的订单量，一个促销活动的购买转化率等。 一个指标具体到计算实施，主要有以下几部分组成： - 指标加工逻辑，比如count ,sum, avg。 - 维度，比如按部门、地域进行指标统计，对应sql中的group by。 - 业务限定/修饰词，比如以不同的支付渠道来算对应的指标，微信支付的订单退款率，支付宝支付的订单退款率 ，对应sql中的where。 除此之外，指标本身还可以衍生、派生出更多的指标，基于这些特点，可以将指标进行分类： - **原子指标**：基本业务事实，没有业务限定、没有维度。比如订单表中的订单量、订单总金额都算原子指标； 业务方更关心的指标，是有实际业务含义，可以直接取数据的指标。比如店铺近1天订单支付金额就是一个派生指标，会被直接在产品上展示给商家看。 但是这个指标却不能直接从数仓的统一中间层里取数（因为没有现成的事实字段，数仓提供的一般都是大宽表）。需要有一个桥梁连接数仓中间层和业务方的指标需求，于是便有了派生指标。 - **派生指标**：**维度+修饰词+原子指标**。店铺近1天订单支付金额中店铺是维度，近1天是一个时间类型的修饰词，支付金额是一个原子指标； 维度：观察各项指标的角度； 修饰词：维度的一个或某些值，比如维度性别下，男和女就是2种修饰词。 - **衍生指标**：比如某一个促销活动的转化率就是衍生指标，因为需要**促销投放人数指标**和**促销订单数指标**进行计算得出。 **⑦标签** 标签是人为设定的、根据业务场景需求，对目标对象运用一定的算法得到的高度精炼的特征标识。可见标签是经过人为再加工后的结果，如网红、白富美、萝莉。对于有歧义的标签，我们内部可进行标签区分，比如：苹果，我们可以定义苹果指的是水果，苹果手机才指的是手机。 **⑧自然键** 由现实中已经存在的属性组成的键，它在业务概念中是唯一的，并具有一定的业务含义，比如商品ID，员工ID。 以数仓角度看，来自于业务系统的标识符就是自然键，比如业务库中员工的编号。 **⑨持久键** 保持永久性不会发生变化。有时也被叫做超自然持久键。比如身份证号属于持久键。 **自然键和持久键区别**：举个例子就明白了，比如说公司员工离职之后又重新入职，他的自然键也就是员工编号发生了变化，但是他的持久键身份证号是不变的。 **⑩代理键** 就是不具有业务含义的键。代理键有许多其他的称呼：无意义键、整数键、非自然键、人工键、合成键等。 代理键就是简单的以按照顺序序列生产的整数表示。产品行的第1行代理键为1，则下一行的代理键为2，如此进行。**代理键的作用仅仅是连接维度表和事实表**。 **⑪退化维度** **退化维度，就是那些看起来像是事实表的一个维度关键字，但实际上并没有对应的维度表**，就是维度属性存储到事实表中，这种存储到事实表中的维度列被称为退化维度。与其他存储在维表中的维度一样，退化维度也可以用来进行事实表的过滤查询、实现聚合操作等。 那么究竟怎么定义退化维度呢？比如说订单id，这种量级很大的维度，没必要用一张维度表来进行存储，而我们进行数据查询或者数据过滤的时候又非常需要，所以这种就冗余在事实表里面，这种就叫退化维度，citycode这种我们也会冗余在事实表里面，但是**它有对应的维度表，所以它不是退化维度**。 **⑫下钻** 这是在数据分析中常见的概念，下钻可以理解成增加维的层次，从而可以**由粗粒度到细粒度来观察数据**，比如对产品销售情况分析时，可以沿着时间维从年到月到日更细粒度的观察数据。从年的维度可以下钻到月的维度、日的维度等。 **⑬上卷** 知道了下钻，上卷就容易理解了，它俩是相逆的操作，所以**上卷可以理解为删掉维的某些层**，由细粒度到粗粒度观察数据的操作或沿着维的层次向上聚合汇总数据。 **⑭数据集市** 数据集市（Data Mart），也叫数据市场，数据集市就是满足特定的部门或者用户的需求，按照多维的方式进行存储，包括定义维度、需要计算的指标、维度的层次等，生成面向决策分析需求的数据立方体。其实就是从数据仓库中抽取出来的一个小合集。 **2）数仓名词之间关系** **①实体表，事实表，维度表之间的关系** 在Kimball维度建模中有维度与事实，在Inmon范式建模中有实体与关系，如果我们分开两种建模方式看这些概念比较容易理解。但是目前也出现了不少混合建模方式，两种建模方式结合起来看，这些概念是不是容易记忆混乱，尤其事实表和实体表，它们之间到底有怎样区别与联系，先看下它们各自概念： - **维度表**：维度表可以看成是用户用来分析一个事实的窗口，它里面的数据应该是对事实的各个方面描述，比如时间维度表，地域维度表，维度表是事实表的一个分析角度。 - **事实表**：事实表其实就是通过各种维度和一些指标值的组合来确定一个事实的，比如通过时间维度，地域组织维度，指标值可以去确定在某时某地的一些指标值怎么样的事实。事实表的每一条数据都是几条维度表的数据和指标值交汇而得到的。 - **实体表**：实体表就是一个实际对象的表，实体表放的数据一定是一条条客观存在的事物数据，比如说各种商品，它就是客观存在的，所以可以将其设计一个实体表。实时表只描述各个事物，并不存在具体的事实，所以也有人称实体表是无事实的事实表。 举个例子：比如说手机商场中有苹果手机，华为手机等各品牌各型号的手机，这些数据可以组成一个**手机实体表**，但是表中没有可度量的数据。某天苹果手机卖了15台，华为手机卖了20台，这些手机销售数据属于事实，组成一个**事实表**。这样就可以使用**日期维度表**和**地域维度表**对这个事实表进行各种维度分析。 **②指标与标签的区别** - **概念不同** **指标**是用来定义、评价和描述特定事物的一种标准或方式。比如：新增用户数、累计用户数、用户活跃率等是衡量用户发展情况的指标； **标签**是人为设定的、根据业务场景需求，对目标对象运用一定的算法得到的高度精炼的特征标识。可见标签是经过人为再加工后的结果，如网红、白富美、萝莉。 - **构成不同** **指标名称**是对事物质与量两方面特点的命名；指标取值是指标在具体时间、地域、条件下的数量表现，如人的体重，指标名称是体重，指标的取值就是120斤； **标签名称**通常都是形容词或形容词+名词的结构，标签一般是不可量化的，通常是孤立的，除了基础类标签，通过一定算法加工出来的标签一般都没有单位和量纲。如将超过200斤的称为大胖子。 - **分类不同** **对指标的分类**： 按照指标计算逻辑，可以将指标分为原子指标、派生指标、衍生指标三种类型； 按照对事件描述内容的不同，分为过程性指标和结果性指标； **对标签的分类**： 按照标签的变化性分为静态标签和动态标签； 按照标签的指代和评估指标的不同，可分为定性标签和定量标签； **指标**最擅长的应用是监测、分析、评价和建模。 **标签**最擅长的应用是标注、刻画、分类和特征提取。 特别需要指出的是，由于对结果的标注也是一种标签，所以在自然语言处理和机器学习相关的算法应用场景下，标签对于监督式学习有重要价值，只是单纯的指标难以做到的。而指标在任务分配、绩效管理等领域的作用，也是标签无法做到的。 **③维度和指标区别与联系** 维度就是数据的观察角度，即从哪个角度去分析问题，看待问题。 指标就是从维度的基础上去衡算这个结果的值。 维度一般是一个离散的值，比如时间维度上每一个独立的日期或地域，因此统计时，可以把维度相同记录的聚合在一起，应用聚合函数做累加、均值、最大值、最小值等聚合计算。 指标就是被聚合的通计算，即聚合运算的结果，一般是一个连续的值。 **④自然键与代理键在数仓的使用区别** 数仓工具箱中说**维度表的唯一主键应该是代理键而不应该是自然键**。有时建模人员不愿意放弃使用自然键，因为他们希望与操作型代码查询事实表，而不希望与维度表做连接操作。然而，应该避免使用包含业务含义的多维键，因为不管我们做出任何假设最终都可能变得无效，因为我们控制不了业务库的变动。 **所以数据仓库中维度表与事实表的每个连接应该基于无实际含义的整数代理键。避免使用自然键作为维度表的主键**。 **⑤数据集市和数据仓库的关系** **数据集市是企业级数据仓库的一个子集**，他主要面向部门级业务，并且只面向某个特定的主题。为了解决灵活性和性能之间的矛盾，数据集市就是数据仓库体系结构中增加的一种小型的部门或工作组级别的数据仓库。数据集市存储为特定用户预先计算好的数据，从而满足用户对性能的需求。数据集市可以在一定程度上缓解访问数据仓库的瓶颈。 **数据集市和数据仓库的主要区别**：数据仓库是企业级的，能为整个企业各个部门的运行提供决策支持手段；而数据集市则是一种微型的数据仓库,它通常有更少的数据,更少的主题区域,以及更少的历史数据,因此是部门级的，一般只能为某个局部范围内的管理人员服务，因此也称之为部门级数据仓库。 *附原文链接地址* *https://mp.weixin.qq.com/s/md49ODhLOOlqv8O_x41lsQ*
标签:
DataWarehouse
非特殊说明，本博所有文章均为博主原创。
如若转载，请注明出处：
https://lilinchao.com/archives/2363.html
上一篇
04.BurpSuite之Target介绍
下一篇
02.数仓建设之离线数仓建设核心
取消回复
评论啦~
提交评论
栏目分类
随笔
2
Java
326
大数据
229
工具
31
其它
25
GO
47
标签云
ajax
Livy
前端
排序
Map
LeetCode刷题
Quartz
Thymeleaf
Python
SQL练习题
数学
Spark
链表
Shiro
栈
高并发
MyBatis-Plus
国产数据库改造
容器深入研究
Spark Streaming
Java工具类
MySQL
Ubuntu
字符串
Jquery
Beego
数据结构和算法
MyBatis
Java阻塞队列
Spark Core
友情链接
申请
范明明
庄严博客
Mx
陶小桃Blog
虫洞