九卦|工商银行备份架构优化探索与实践


作者 | 郑彩平 吴晓晔 张强 卢光(中国工商银行金融科技研究院基础技术实验室)

来源| 中国金融电脑

编辑 | 武文 张云迪

美编| 杨文华


数字时代,伴随数据成为关键生产要素,数据备份的重要性也愈发凸显。通过提供历史数据服务,数据备份可有效抵御各类计划外故障与恶意攻击,是保障数据安全性的有效手段。本文针对当前银行业数据管理面临的技术创新与服务效率等问题,提出了多介质融合方案以优化数据备份架构,并总结统一备份管理平台建设经验,希望为银行业数据管理提供可行的参考。

传统模式下,银行业数据备份架构大多是基于商业数据备份管理软件(如NetBackup)来构建集中式备份管理平台,将磁带作为备份介质,并采用带库转存功能实现离线数据异地保存。然而,随着分布式、云计算等新技术的推广,银行信息系统基础设施架构发生了巨大变化,爆发式增长的数据规模,异构混合的多云多区域环境,以及云原生应用的弹性伸缩、随时启停等,均对备份和恢复效率以及系统扩展性提出了更高的要求,传统备份架构已愈发难以满足业务发展需求。与此同时,面对服务器、操作系统、数据库等基础软硬件设施的日益多样化,以及新场景、新技术、新需求的持续涌现,银行数据备份架构和备份系统亟待不断优化。

为应对数字化转型挑战,工商银行在传统磁带备份的基础上,引入分布式存储技术,创新设计了多介质融合备份方案。具体而言,根据不同数据的备份目标,工商银行在细化数据存储需求的基础上,结合不同存储介质的特性,形成了一体化的数据流管理方案。同时,通过引入分布式对象存储作为备份数据缓存层,充分利用其高性能、高可靠、高扩展等特性,大幅提升了数据备份效率,减少了对业务运行的影响。其中,短周期数据将在分布式存储中自动过期,长周期数据则会按需从分布式存储中转存至磁带,并依托磁带介质的稳定性、大容量、低成本、绿色低碳以及便于搬迁等特性,高效满足业务数据归档和长久离线保存等要求。备份系统融合架构设计如图1所示。

图1 备份系统融合架构设计

1.技术特点


从技术角度看,多介质融合备份方案重点强调了开放性、灵活性和便捷性三个方面。其中,开放性方面,分布式对象存储基于开放接口和多租户特性,支持广泛的数据源接入(包括不同的云环境、软硬件和业务数据),并可实现云租户数据管理自助服务,以及租户数据隔离、加密存储和安全控制等功能;灵活性方面,分布式对象存储凭借灵活部署能力,支持在云内和云外环境中部署,并可充分满足不同场景和网络条件限制下的使用需求,实现数据按需集中或分散管理,高效支撑当前银行业信息系统多云、多区域部署架构;便捷性方面,分布式对象存储通过提供近线数据快速存储及访问功能,实现了“即连即用”模式,并大幅增强了对在线、近线和离线数据的全生命周期管理能力,可更好地助推业务创新发展。

2.典型场景


基于全新的数据备份架构,工商银行进一步简化异地灾备和历史数据服务流程,显著提升了服务效率。例如,为满足《信息安全技术网络安全等级保护基本要求》,工商银行综合考虑远距离大数据量传输的带宽限制和成本,按照应用的安全保护等级要求对不同应用进行了区别处理:一方面,对于跨园区高可用部署的应用,如部署同城主从或异地灾备主从的应用,工商银行使用了不同园区的从实例进行双备,即充分利用从实例备份对业务影响小的特点,通过在当地园区实现备份,消除了跨园区备份数据流;另一方面,对于无跨园区高可用部署的应用,工商银行实现类比磁带库的异地转存功能,在分布式存储层完成同城或异地间备份数据复制,不仅对业务透明,而且远程复制的数据采用压缩传输方式,大幅节省了带宽。跨园区冗余备份方案如图2所示。

图2 跨园区冗余备份方案

在数据服务方面,为满足审计查数、数据抽检、版本测试供数等生产中较为常见且繁杂的业务场景需求,传统备份模式通常需要对历史数据执行多次备份恢复,环节众多且耗时较长。对此,工商银行利用新架构中的分布式存储技术,实现了全流程数据在线存储和传输,在有效避免磁带反复转存的同时,大幅提升了数据存储和传输效率,缩减了整体耗时。此外,通过引入云原生容器技术部署数据库,工商银行基于容器快速启动、高密度部署的特性,以及容器管理平台灵活强大的编排能力,进一步提升了数据恢复和脱敏变形等操作的处理效率和自动化水平。测试供数流程及优化方案对比如图3所示。供数流程步骤对比见表1。

图3 测试供数流程及优化方案对比

表1 供数流程步骤对比

为实现融合备份架构及各项运维管理功能,工商银行基于分层隔离和统一管理思路,自主研发建设统一备份管理平台,屏蔽了不同类型数据源及其运行环境的差异,并整合备份管理全流程,实现“数据应备尽备、操作应管尽管”。基于该平台,云租户可实现个体数据的自助备份管理,行内私有云运维人员则可对多云、多区域与不同场景进行统一管理。

1.平台架构


总体而言,统一备份管理平台主要由接入层、核心层与数据层三部分组成。统一备份管理平台逻辑架构如图4所示。

在接入层,为适应多云场景下应用的备份需求,解决云原生应用如容器的随时启停、随机漂移等业界难题,统一备份管理平台在前端提供了丰富的接口功能,并利用微服务和云原生编排能力,实现了灵活快速的策略部署、修改和删除,以最大限度适应计算、存储、网络的变动和应用的全生命周期。同时,为保持备份任务的灵活性,减少对业务的侵入,平台使用标准的S3接口将数据传入分布式存储,实现了免代理部署。

在核心层,平台重点承载了备份策略接入、元数据管理、备份任务调度、自动验证以及告警展示等功能模块。其中,备份策略接入模块可同时支持批量导入和灵活接口的方式,供业务实现自动化部署;元数据管理模块基于多活数据库,负责记录备份客户端、备份策略、备份运行状态以及恢复的历史记录等信息;备份任务调度模块基于QuartZ,可实现任务定时触发,并支持根据不同优先级来保证重点业务备份及时完成;自动验证模块实现了备份数据周期性地在验证环境中恢复和检查,以保证备份数据的有效性;告警展示模块对接工商银行集中监控平台,可实时传送备份系统和存储的异常情况,并定期将备份历史报表发送运维人员。

在数据层,通过引入基于纠删码的分布式对象存储,平台比使用多副本技术实现了两倍以上的有效空间,并以“业务和备份解耦”以及“数据流就近访问”为原则,建设和使用了备份存储资源池。同时,在权衡容量和故障影响范围的基础上,为控制单集群的规模,平台选择了以集群为粒度横向扩展。例如,以常规的单集群12节点计算,可提供近1PB的存储可用空间,容纳约3000个中小规模数据库实例的备份。

图4 统一备份管理平台逻辑架构

2.成效总结


工商银行在私有云中规模化推广上述方案,并实现金融生态云和分行云租户的自主服务全覆盖,取得了良好的实践成效。

在兼容多样化软硬件方面,该方案不仅可支持鲲鹏、海光、Intel等异构芯片服务器,麒麟、欧拉等操作系统,还支持文件系统、MySQL及国产分布式数据库等多种形式的数据源。

在提升数据服务能力方面,通过完善数据分层设计,切实提高了数据访问性能,并结合数据服务流程优化,使审计查数、抽检、供数等操作的执行效率实现大幅提升。

在提升备份管理能力方面,不仅解决了云原生应用数据、容器实例漂移等备份难题,还支持在复杂云环境下对备份进行统一管理,极大地简化了运维操作,减少备份管理人时投入80%以上。

在提升资源利用率方面,实现MySQL、GoldenDB、TiDB等数据库直通式备份,支持数据不落本地直达分布式共享存储,并结合数据压缩功能,使存储资源利用率提升近80%。

在提升备份恢复效率方面,依靠分布式存储的高带宽以及备份系统的横向扩展和任务自动调度能力,缩短了35%的备份耗时,提升了40%的恢复效率。

数字时代,数据备份既是构成数据中心容灾体系的关键基础之一,也是数据安全的最后一道防线。未来,工商银行将持续做好备份架构和系统的优化提升与技术迭代,以更好地助力银行信息系统架构转型和应用自主创新:一是整合长短周期备份流程,完善数据生命周期管理,联动行内运维管控平台提高自动化能力;二是适配不同类型的软硬件,提升备份和恢复效率,不断提高数据保护和服务能力;三是进一步激活温冷数据价值,如利用备份一键恢复功能支持系统测试和灾备演练,以及支持历史数据直接读取查询实现业务敏捷响应等。

建久三年(1192年),源赖朝出任征夷大将军,建立了日本历史上第一个幕府——镰仓幕府。但在源赖朝病死后十几年,源氏将军家彻底绝后,镰仓幕府的实权则控制在北条一族手中..

大家好,今天本篇文章就来给大家分享查询密码是什么意思,以及银行电话查询密码是什么意思对应的知识和见解,内容偏长哪个,大家要耐心看完哦,希望对各位有所帮助,不要忘了收藏本站喔。信用卡的查询密码是什么意思?信用卡查询密码,指持卡人进入电话银行或网上银行进行查询时必须输入的密码。刷卡的..

大家好,今天本篇文章就来给大家分享手机银行是什么意思,以及绑定手机银行是什么意思对应的知识和见解,内容偏长哪个,大家要耐心看完哦,希望对各位有所帮助,不要忘了收藏本站喔。手机银行是什么意思手机银行是指银行以智能手机为载体,使客户能够在此终端上使用银行服务的渠道模式。随着通信与互联..

大家好,关于银行日记账excel表格很多朋友都还不太明白,今天小编就来为大家分享关于银行日记账excel表格模板的知识,希望对各位有所帮助!想求一份会计常用的EXCEL表格(现金日记账,银行日记账,明细帐,总帐会计财务常用Excel表格百度网盘免费资源在线学习 链接:  提取码: 73bm..

很多朋友对于微信怎么往银行卡里转钱和微信怎么往银行卡里转钱?不太懂,今天就由小编来为大家分享,希望可以帮助到大家,下面一起来看看吧!微信的钱怎么转到银行卡上微信转账到银行卡的流程如下:1、首先在微信首页的右上角,点击加号小图标。2、点击加号小图标后,系统会进入新的界面,随后点击收付..

很多朋友对于银行柜员是好工作吗和现在银行柜员工作好干吗不太懂,今天就由小编来为大家分享,希望可以帮助到大家,下面一起来看看吧!银行柜员是好工作吗?银行柜员是好工作。银行柜员一般指在银行分行柜台里直接跟顾客接触的银行员工。银行柜员在最前线工作。这是因为顾客进入银行第一类人就是柜员。..

大家好,今天来为大家解答关于手机的备份是什么意思这个问题的知识,还有对于手机的备份是什么意思小米也是一样,很多人还不知道是什么意思,今天就让我来为大家分享这个问题,现在让我们一起来看看吧!手机上的备份是什么意思?手机上的备份就是把你手机上的数据给备份起来,备份起来后,以后就可以还..

大家好,今天本篇文章就来给大家分享信合银行密码是什么意思,以及信合支付密码对应的知识和见解,内容偏长哪个,大家要耐心看完哦,希望对各位有所帮助,不要忘了收藏本站喔。陕西信合卡支付密码是什么陕西信合卡支付密码是自己开立银行卡的时候设置的取款密码,取款密码一般就是银行卡的支付密码。信..

本文由 九卦金融圈 来源发布

九卦|工商银行备份架构优化探索与实践

评论问答