数据采集平台Shark Start在某城市商业银行的实践
发布时间:2024-03-19作者:admin浏览次数:

当下,数据相关的词汇无疑成为了企业数字化转型过程中的热门词汇,有价值的数据可以使企业了解市场和目标受众,并探索新的商机。企业通过信息分析管理系统对源数据进行整合加工、汇总计算、分析等,得到高阶指标数据(KPI)和相关业务分析报告,作为辅助决策的依据。其中,数据采集是所有信息分析管理系统的第一步。

当前企业数据采集依然面临许多老问题:
1、开发周期长,自研难度、维护成本高
2、源系统变更带来系统维护困难且变更不易
3、模块式开发与部署,质量不一
4、多端数据采集不规范,数据时效性、一致性得不到保障
5、缺乏有效的监控手段

基于先进数通数据采集平台Shark Start进行企业数据架构搭建,可以从根本上解决企业数据采集所面临的老问题,同时应对当前时代下对企业数据采集提出的新要求。

Shark Start可提供一致的数据采集流程规范管控;便捷的线上开发和实时部署;配置化、可扩展的数据源采集方式;配置化、可扩展的目标加载方式;采集过程对变更的自适应;数据视角的采集过程监控,数据采集可视化;保障数据采集的可靠性、完整性和及时性。


Shark Start 功能架构


Shark Start 可在以下系统建设过程中发挥重要的作用:ODS建设、DW建设、历史数据管理系统建设、大数据平台建设、外部数据系统建设、小微贷系统建设等。通过Shark Start 可快速构建数据采集过程,实现企业全数据接入,快速形成可复用的贴源数据存储。


Shark Start 应用场景


下面是基于数据采集平台Shark Start的某城市商业银行数据平台项目,通过安装部署,大大缩减该银行ETL作业的开发工作量和开发成本。

据悉,该商业银行面临的主要挑战是:数据分散的平台种类、数量繁多,难以进行统一技术规范的数据采集;数据分散在十余个数据平台中,数据集中困难;数据表及数据量非常庞大,有限的人力及有限的时间难以完成海量的采集作业;非结构化数据难以被现有ETL工具直接采集。

针对以上问题,先进数通根据以往丰富的银行业部署经验,为该商业银行建立了统一的数据采集平台,全面支持行内各类数据平台数据接口,形成数据的自动采集。同时,建立贴源数据存储区,对每日集中采集的数据进行贴源存储,形成可复用的贴源数据层。


某城市商业银行数据平台项目


通过数据采集平台的部署,该行实现了源数据统一采集和贴源数据区的建设,实现了数据采集和贴源数据区加载的零代码开发,并实现对源系统变更自动适应。系统上线运行后,每日处理70余个源系统数据,涉及8千多个数据实体,9万多个数据文件,日增量数据约为3.5T,时效性完全满足银行预期。



留言
内容: