明略万象数据中台(HCS版)
明略科技近几年来已经为100+行业客户打造了具有行业“know-how”的数据中台,在行业的应用场景中,万象数据中台的采集能力、治理能力、模型加工能力、数据共享与运营能力发挥了很大明略万象数据中台是由企业级"数字化转型"战略驱动,通过提供可计量、可规划、可预测的增强承载能力、计算
- 能够直观的查看集群中包含的机器、每台机器上安装的服务组件,并支持对服务组件进行管理
- 为系统管理员提供了集群性能的监察功能
- 整套产品是一个大版本,不用担心各个服务之间兼容性的问题
- 中台一体化产品支持多样化的大数据环境作为底座,目前支持TBDS、CDH
明略万象数据中台是由企业级”数字化转型“战略驱动,通过提供可计量、可规划、可预测的增强承载能力、计算能力, 以支撑企业级核心价值链全生命周期管理的、可组织、可运营、可管控的一套基础平台体系。由数据汇聚平台、数据开发平台、数据标准化平台、数据质量管理平台、数据共享服务平台、元数据管理平台等组成。
大数据汇聚平台
大数据汇聚平台, 零代码数据接入,解决数据接入难、监控难等问题。提高数据接入效率,降低数据接入的风险,减少数据接入开发成本,降低数据接入技术门槛。数据接入港不仅仅是一个数据采集平台,更重要的是要构建数据采集任务的配置,管理,监控,调度等服务,以及对整个数据同步业务流程和生命周期的封装,从而规范企业数据采集过程,提高数据采集效率,降低数据整合的风险,减少数据接入开发成本,降低数据接入技术门槛。同时帮助客户建立数据采集长效机制,持续不断的提升数据接入的能力,为数据的价值挖掘打下坚实的数据基础。
系统管理包含参数维护、标签|码表维护、注册中心、跑数模板等功能。主要为对系统底层运行的包、参数、跑数模板进管理;数据源管理包含数据源列表、元数据、分类、配置参数、转换规则等功能;通过作业管理模块可更加直观、快速地配置数据采集作业;目标表管理模块可直观地了解接入后的数据情况,提供了基于表级数据的管理功能;调度管理包含资源池管理和executor节点监控功能。
数据标准化平台
数据标准化平台是一款旨在解决数据内容质量问题、数据共享问题以及为信息资源服务平台建设提供的标准化数据支撑的跨行业产品。将各部门不规范、不标准的数据,通过标准转化在数据规范方面,包含数据字典、属性项命名及数据内容、表名等层面,对它们做统一的标准体系,以满足公安、社会、互联网以及物联网数据资源的统一管理需求。并且,数据标准化平台提供数据标准的建立、维护及积累,为企业及行业提供相应的数据标准。
数据标准化平台基于统一的数据标准,完成数据标准化,解决数据的不规范问题,提升各业务系统使用的数据资源质量。(1)项目隔离:具备多组户管理能力,支持项目隔离,在项目下能够读写和操作被授权的数据,满足多项目隔离的业务场景。(2)标准管理:标准管理实现了数据标准的相关维护,如数据元、限定词、规则、标准码表、码表映射等维护操作功能,同时提供了标准变更日志概览。用户通过标准管理模块进行数据标准的统一管理,为数据标准化对标映射及跑数作业提供支撑。(3)对标管理:对标管理实现了数据标准化中对标工作的相关功能,主要包含了对标任务分配、对标、审核等主要功能。用户通过对标管理模块进行对标任务的分配并完成数据对标映射及映射审核等操作,完成的对标映射结果提供给作业管理进行跑数作业配置,进行后续跑数处理。(4)作业管理:作业管理实现了数据标准化中数据处理的作业配置、管理等相关功能,主要包含了作业的调度配置、手动执行、作业执行实例监控、作业执行结果的标准表预览等功能。用户通过作业管理模块进行标准化跑数作业的配置,为完成对标的数据进行跑数调度,输出标准化数据结果。(5)首页概览:对常见信息进行统计并以图表展现,包含标准化进度及数据标准,展示的整体效果清楚简洁,直观,一目了然。针对不同项目会进行个性化定制。
数据质量管理平台
数据质量管理组件是一款旨在提供数据质量稽核能力的产品。该产品基于先进的国际(DAMA)及国家数据质量标准理念进行设计,并且加入了符合业务需要的诸多模板元素,以通用化规则和定制化规则共同构建起数据质量规则库。通过数据质量稽核通用接口为数据接入、整合、加工到消费的全生命周期各阶段提供plugin服务;具备支撑异构系统协同的能力。
对数据全生命周期各阶段的数据,以涵盖通用规则、自定义规则的规则管理模块为基础,对数据的真实质量情况进行质量稽核检测,逐级计算各数据表、数据库的综合质量得分,支撑对数据个体、总体质量的评估。最终通过数据质量报告、数据质量分析等能力为用户提供数据质量信息服务支撑能力。支持多租户能力,可以实现项目隔离,默认展示某一项目下被授权的数据,可通过左上角项目名称切换不同项目。基于DAMA数据标准体系制定通用稽核规则模版,涵盖数据一致性、数据准确性、数据完整性、数据及时性、数据唯一性5个维度。支持对规则的参数的灵活配置,规则管理模块覆盖范围全面。
元数据管理平台
元数据管理平台明略数据中台的重要组成部分,它采集来自不同源端的技术、业务元数据、过程元数据,为企业提供了端到端的元数据的管理和服务。旨在增强数据理解,快速建立业务与技术之间的衔接,为管理业务提供高效的服务。
元数据管理平台为企业建立元数据管理体系提供了可靠、便捷的工具支持。帮助企业标明数据方位、分析数据关系。从而更加有效的发掘和利用信息资产的价值,实现精准高效的分析和决策,推进系统变更管理,降低项目风险。无论是企业的业务部门还是IT部门,很少能完整的拿出一套企业各项数据的业务含义、口径、技术标准、分布情况等的说明,使用元数据管理可以自动化的获取整个企业的数据业务含义,帮助理解数据,并通过元数据的多维数据地图和元数据关系图谱,来加速数据的资产化,并提高其易用性。元数据管理有较低实施成本,优化成本和定制成本,且利用应用帮助企业提升效率、降低成本、规范管理,从而提升企业数据质量水平。面对多源异构的元数据信息,使用元数据产品能够,方便内部管理、审计或外部监管的需求追溯业务指标、报表的数据来源和加工过程。当信息供应链某一个上游数据变更时,可以使用元数据产品找出下游哪些系统可能运行出错或数据发生异常变化,从而进行及时的修正。
数据开发平台
数据开发平台是数据中台的主板,承载异构系统和跨平台的任务编排,支撑协同业务调度场景快速迭代建立,同时保证后台稳定运转的中台核心要件,并能够将作业按业务逻辑组装,并自动执行。集中监控各作业运行情况的需求,可以整合企业的IT资源,摆脱底层技术、运维管理方面的技术应用,将有限的人力资源全面投入到逻辑业务当中,建立统一的批量驱动中枢,保障整个企业后台批量体系中各个系统可靠、高效的运转。
管控:解决项目上众多厂商各自运维,各自调度,客户无法统一进行调度监控和人工干预问题,满足用户不同业务场景对于任务的编排顺序和依赖不一致的需求,将割裂的调度业务依赖关系在开发调度平台全息体现和管控;兼容:跨平台的第三方对接中,产品提供具有统一接口的作业类型扩展,系统可以添加各种作业类型;提供Http服务注册任务; 输出DAG标准规范将任务依赖可视化三种兼容能力,保证对接第三方快速注册任务到调度平台进行调度管理;赋能:提供集团内部的产品复用能力, 协同数据中台内完成数据的汇聚集成、数据质量治理与资产管理、元数据的采集分析、数据共享与服务等覆盖大数据全生命周期的调度编排工作,同时满足跨部门如明析和图谱调度需求,企业内部产品实现自驱,统一调度、统一驱动、统一控制、统一管理。开发:在线融合数据开发组件,提供一站式数据模型创建与交互数据分析的研发模式。【开发中心】-模型管理(UML、QueryBuilder)、DataStudio开发组件支持数据处理和模型等构建工作,所有【开发中心】生成的SQL脚本、模型等任务,都可以一键发布到【资源中心-数据开发资源】,其资源可在【流程中心】中参与DAG工作流创建,配合其他数据加工元件,完成数据的汇聚集成、生产调度与运维、数据质量治理与资产管理、元数据的采集分析、等覆盖大数据全生命周期的调度实践工作。
数据共享服务平台
数据共享服务平台以资源目录作为媒介,将分布于不同地域、组织、系统之间的数据资源进行逻辑上的集中,形成共享资源池,并以一定的主题进行分类。当数据需求方有数据分析/挖掘等数据服务需要时,可以在共享服务平台提供的资源目录和安全共享通道的基础之上申请和使用其他数据提供者的数据,从而打破数据孤岛,实现数据资源的跨域应用,进而最大化数据资产的价值。
数据共享服务架构作为企业和政府数据共享服务管理以及业务创新的基础架构,是将用户平台中的数据通基于元数据服务和资源目录服务为基础统一进行科学、合理的整合和管理,更好的解决数据管理者在数据管理中的数据资源识别,共享以及数据服务监控告警等问题,带动业务创新提出来的数据组织和管理框架,通过元数据信息同步以及数据资源注册相结合完成数据资源生成、对接服务;通过集成行业资源分类标准以及自定义分级分类来协助数据资源分类,通过制定数据共享规范、数据传输协议等标准,建立自助式数据共享服务,为企业应用系统提供全局数据资源视图、数据服务视图、数据权限视图以及完善的数据共享服务平台,并提供对数据使用情况以及数据消费情况的分享链路、生命周期的监控告警功能等。数据共享服务主要包括资源目录、申请管理、资源维护、系统管理等功能子模块。
数据共享服务平台
数据共享服务平台是一款面向企业级用户的新型数据资产管理平台。平台以提升数据资产价值为根本,以建设智慧型企业为导向,以增强型元数据和图谱技术为核心,面向企业业务人员和数据管理、分析人员,为企业提供基于业务关系的数据资产管理能力,有效解决数据资产管理问题,推动企业业务流程优化和数据共享融合,促进数据资产价值提升。
数据资产运营平台为企业持续化运营做支撑,致力于宏观层面解决帮忙运营人员全盘了解数据资产在整个数据流转环节(汇聚、整合、加工开发、消费)的概览情况,又协助运营人员对使用的资产在部门或者产品线同的维度进行衡量、评估。微观层面协助业务人员解决业务专题分析数据的从业务指标含义到数据的落地,探索解决业务人员数据找不到,看不懂,无法快速获取等问题。
全部用户
商品定价
商品价格=订购区间数量1*区间规格单价1+订购区间数量2*区间规格单价2。
举例:通话费率为不超过3分钟的部分按0.3元/分钟,超过3分钟的部分按0.2元/分钟;如果用户通话8分钟,收取的费用为3*0.3+5*0.2=1.9元。
商品价格=订购数量*数量所属区间单价。
举例:通话费率为不超过3分钟则0.3元/分钟,若超过3分钟则0.2元/分钟;如果用户通话2分钟,收取的费用为2*0.3=0.6元;如果用户通话8分钟,收取的费用为8*0.2=1.6元。
商品价格=订购数量*单价。
商品价格为页面呈现价格。