数据治理平台设计图系统架构图_数据治理系统架构图_数据治理架构图

链接管理

支持向量机

频次挖掘

HybirdDBMySql

GateWay

数据质量管理

数据应用

索引引擎

上卷下钻

卷积神经网络

数字立方

可视化组件（VC）

事实预估、模型预测

数据分析

SmartBI

MRDB

Weka

创新改进、仿真演示

数据仓库DW

Talend

数据源ODS——SAAS、LOCAL、OUTER

Qlikview

SQL引擎

数据采集

联机分析服务（OLAP）

Index引擎

数据抽取ELT/ETL

时序挖掘

Rapid Miner

web爬虫

模型预测

FineReport

应用管理

NOSQL数据库

Datastage

对象管理

应对型治理应对型数据治理是指通过客户关系管理（CRM）等“前台”应用程序和诸如 企业资源规划（ERP）等“后台”应用程序授权主数据，例如客户、产品、供应商、员工等。然后，数据移动工具将最新的或更新的主数据移动到多领域MDM系统中。它整理、匹配和合并数据，以创建或更新“黄金记录”，然后同步回原始系统、其它企业应用程序以及数据仓库或商业智能分析系统。缺点：批量集成和应对型数据治理方法引入的时间延迟可能导致业务部门继续操作重复、不完整且不精确的主数据。因此，这会降低多领域MDM方案实现在正确的时间向正确的人员提供正确数据这一预期业务目标的能力。在期望被设定为数据将变得干净、精确且及时之后，批量集成引入的时间延迟让人感到沮丧。应对型数据治理（下游数据管理员小组负责整理、去重复、纠正和完成关键主数据）可能导致让人认为“数据治理官僚化”。应对型数据治理还会导致最终用户将数据管理团队看作“数据质量警察”，并产生相应的官僚化和延迟以及主数据仍然不干净的负面认识。这还将使得MDM方案更难实现它的所有预期优势，并可能导致更高的数据管理总成本。此方法的风险是组织可能以“两个领域中的最差”而告终，至少部分上如此–—已在MDM方案中投资，但是只能实现一些潜在优势，即在整个企业内获得干净、精确、及时以及一致的主数据。改进方法：有三个方法可超越应对型数据治理。1. 用户将数据直接输入到多领域MDM系统中：用户使用界面友好的前端将数据直接输入到多领域MDM系统中，但是他们的新记录和现有记录的更新留在暂存区域或保留区域，直到数据管理员审核和认证为止。这之后MDM系统才接受插入或更新，以便进行完整的整理、匹配、合并，并将“最佳记录”发布到企业的所有其他应用程序。此方法好过将一个完全不同的应用程序（例如CRM或ERP系统）作为“录入系统”，但是它仍然会出现延迟和效率低下。尽管存在这些缺点，使用暂存区域确实解决了大部分问题，例如不用强制执行重要属性的录入或在创建前不必进行彻底搜索。此外，由于我们并不受传统应用程序或现代CRM或ERP应用程序如何处理数据录入功能的影响，通过不对应对方法进行批量数据移动，我们还大大缩短了时间安排。2. 用户输入直接传送到多领域MDM系统中的数据：在外面输入新记录或更新，但是会立即传送到MDM系统，以便自动整理、匹配和合并。异常或例外传送到数据管理员的队列，几个管理员便可支持更多最终用户。这是第一个主动方法的改进，因为我们利用MDM系统的业务规则、数据整理和匹配功能，只要求管理员查看作为整理、匹配和合并流程的例外而弹出的插入或更新。3. 用户使用特定于数据治理的前端输入数据：第三个方法是允许最终用户直接录入到多领域MDM系统中，但是应使用专为主动数据治理方法而设计的前端。可专门为最终用户数据录入设定屏幕，您可利用功能齐全的MDM系统允许的自动化、数据整理、业务规则、搜索和匹配等所有功能。因此，不必首先将数据输入到MDM系统的暂存区域中，并且您不需要系统外的单独工作流应用程序。主动型治理主动数据治理的第一个优势是可在源头获得主数据。具有严格的“搜索后再创建”功能和强大的业务规则，确保关键字段填充经过批准的值列表或依据第三方数据验证过，新记录的初始质量级别将非常高。主数据管理工作通常着重于数据质量的“使它干净”或“保持它干净”方面。如果MDM系统中的数据质量初始级别非常高，并且如果您不会通过从CRM或ERP源系统中传入不精确、不完整或不一致的数据来连续污染系统，则主数据管理的“保持它干净”方面非常容易。主动数据治理还可有效消除新主记录的初始录入和其认证以及通过中间件发布到企业其余领域之间的所有时间延迟。由用户友好的前端支持的主动数据治理可将数据直接录入到多领域 MDM 系统中，可应用所有典型的业务规则，以整理、匹配和合并数据。当初始数据录入经过整理、匹配和合并流程后，此方法还允许数据管理员通过企业总线将更新发布到组织的其它领域。主动数据治理方法消除了“数据治理官僚化”这一认识，因为主数据的授权已推给上游的业务用户，使数据管理员处于很少被打扰的角色，他们将不会成为诸如订单管理或出具发票等关键业务流程的瓶颈。销售和营销均受益，因为可更迅速且经济有效地完成营销活动，在启动活动之前无需前期数据纠正。财务上也受益，因为将一次性捕获新客户需要的所有数据元素，添加新客户的流程包括提取第三方内容并计算信贷限额，然后将该信息传回ERP系统。没有直接访问MDM系统权限的客户服务代表通常必须搜索几个系统，找到他们需要的信息，从而采取措施。当通话中的客户没有耐心时，很难提供高级别的服务。当所有信息存储在MDM系统中并可通过有效、用户友好的前端进行访问时，客户服务代表将能够访问每个客户交互需要的所有数据，并能够在需要时授权新数据。通过使MDM成为录入系统及记录系统，您能从本质上将数据维持在“零延迟”状态，它在这种状态下适合企业中的任何预期使用场景，同步到CRM和ERP系统的数据的清洁性、精确性、时效性以及一致性应当处于最高级别。应避免问题关系管理MDM应当成为不仅是主数据而且是主数据间的关系的记录系统。它成为全方位了解不同系统的数据如何互相关联的中心位置。例如，多领域MDM系统将来自订单管理系统的销售订单和应收账款中的发票关联在一起。这些关系或层次结构显示在与MDM系统数据直接交互的用户界面中。用户界面还可用于查看主数据间的关系并在MDM系统中直接编辑它们。因此，MDM还成为关系的录入系统。历史记录当您从诸如CRM系统等外部系统中接受新记录或更新后的记录时，可能会限制您跟踪该记录的历史记录，因为外部应用程序作出了一些限制。当MDM为录入系统和记录系统时，审计历史记录的复杂跟踪和数据的沿袭成为可能。随着时间的推移，它甚至可显示核心主记录的更改，按照各种用户和流程在动态时间视图中显示插入和更新，可跟踪和显示每个属性中的每个更改。工作流使用可配置的前端可设计和执行基本工作流功能，因此最终用户可输入新主记录。但是，这些新记录可能需要数据管理员的批准步骤，然后才能将它们完全接受到多领域MDM系统中并发布到企业的其它领域。另外一个工作流应用程序在数据管理员的任务队列中。匹配或自动合并重复记录遇到的例外传送到相应的数据管理员。高级功能允许将问题提交给相应的人员，当用户在休假时可自动重新传送给后备人员。通过直接查看特定工作流步骤和这些流程的经过时间，减少了花费在查询新记录或更改后的记录状态的时间。安全性用户界面应当是可配置的，并且不同的工作角色具有不同的访问和许可级别。帮助数据管理员解决差异的一些数据元素可能不适合企业中的每个人查看。此外，即使在一个工作角色内，例如数据管理员，您可能需要不同的安全性级别，同时更高级别的人员能够对更广泛的记录集执行更多操作。而且，您可能需要分离访问权限，例如德国的数据管理员不能查看法国客户记录。使用MDM外部的CRM或ERP系统作为录入系统时，该应用程序的安全模型可能会在谁有权对哪些记录进行哪些操作方面强加一些限制。将主记录的录入和维护直接移到多领域MDM系统之后，您可更加详细地控制数据的安全性，可具体到每个属性或字段级别。最适合领域什么因素阻止公司采用主动数据治理方法？总的来说，问题在于它们在数据治理成熟度等级中处于什么位置。一家公司很难从成熟度模型的最左侧——它们在其中没有中央多领域MDM系统并且没有数据治理组织或流程——直接跳到该等级的最右侧，它们在其中拥有强大的数据治理流程外加最新MDM系统和集成架构。通常，随着时间的推移，组织会改进它们的数据治理方法。例如，当初始MDM系统开启并运行之后，一些预期的优势需要较长时间才能实现，或应对方法的局限性变得显而易见，您可计划以便在原始源系统中取消授权记录的功能，并将该功能直接迁移到MDM系统中。升级公司的集成或中间件功能（例如，添加一个能处理实时更新的集成工具）之后，可切换到主动数据治理方法，或作为现有CRM或ERP系统重大升级的一部分，因为这可能是引进需要的业务流程变更的最佳时机。何时从“应对型”迁移为“主动型”？度量标准将推动业务案例从应对型数据治理迁移到主动数据治理。问您自己以下问题，并尝试量化时间、精力和费用投资方面的答案：

行列转换

ROLAP

逻辑回归

决策树

事实预估

MOLAP

自动推理机

CDN

调度控制

异构融合

智能分析

模式分类

Nacos

机器学习算法（ML）

运行框架

质量监控

元数据管理

开发框架

MQ

自动推理

监控报警

表格文件存储XLS/CVS

Docker

异常挖掘

异常警报

人工智能组件（AI）

任务配置

聚合分片

IDEA

Redis

Git

Rattle

任务管理&调度

0/1型文法

clickhouse

Vue

Hadoop大数据存储方案

多系统、异构数据融合展示

SpringCloud

任务机器人

K临近

问题发掘、原因分析、解决方案

依赖生成

文本文件存储LOG/TXT/XML

SQL数据库

清洗规则

Jenkins

Gradle

关联挖掘

Kaggle

Kettle

PostgreSQLGreenplum

API接入

数据挖掘（DM）

贝叶斯

Datax

Power BI

Hadoop+Hive