侧边栏壁纸
  • 累计撰写 93 篇文章
  • 累计创建 170 个标签
  • 累计收到 88 条评论
标签搜索

目 录CONTENT

文章目录

数据库灾备解决方案(阿里云)

seven
2021-09-15 / 0 评论 / 0 点赞 / 400 阅读 / 8,563 字
温馨提示:
本文最后更新于 2021-09-15,若内容或图片失效,请留言反馈。部分素材来自网络,若不小心影响到您的利益,请联系我们删除。

数据库灾备解决方案
行业背景
数据是企业重要的生产资料,关键数据的丢失可能会给企业致命一击,因为数据是计算机系统存在的原因和基础。数据往往是不可再生的,一旦发生数据丢失,企业就会陷入困境:客户资料、技术文件、财务账目等客户、交易、生产数据可能被破坏得面目全非。 概括起来,数据丢失分三个层次:
• 逻辑错误:包括软件bug、病毒攻击、数据块被破坏等。
• 物理损坏:包括服务器、磁盘损坏等。
• 自然灾害:火灾、地震等自然灾害对数据中心的摧毁等。
为了应对数据丢失造成的损失,必须对数据进行灾备保护,并且企业信息化程度越高,相关的数据灾备恢复措施就越重要。
说明 灾备是指容灾+备份:
• 备份的定义:指用户为应用系统产生的重要数据(或者原有的重要数据信息)制作一份或者多份拷贝,以增强数据的安全
• 容灾的定义:指在相隔较远的两地(同城或者异地)建立两套或多套功能相同的IT系统,互相之间可以进行健康状态监视和功能切换。当一处系统因意外(天灾、人祸)停止工作时,整个应用系统可以切换到另一处,使得该系统功能可以继续正常工作。
一般数据从生产到存储,主要经过应用、中间件、数据库、操作系统、存储或者磁盘驱动、网络、存储交换机等。其中数据库的灾备设计尤为重要。 数据库的灾备主要技术流派包括备份、容灾等。
• 备份:
o 逻辑备份:利用数据库的重做日志、归档日志,将主本所在站点的日志传输到副本所在站点,通过重做SQL的方式实现数据复制。逻辑复制只提供异步复制,主副本数据的最终一致性,无法保证实时一致性。
o 物理备份:通过Redo日志或者归档日志在副本站点的同步或者异步持久化写、Redo Apply来实现复制功能,同时副本站点的数据可以提供只读功能。物理备份又可进一步细分为冷备与热备。
• 容灾:数据容灾是在备份的基础上,建立一个异地的数据系统,该系统是本地关键应用数据的一个实时复制。根据应对故障场景不同,容灾可分为同城容灾、异地容灾。
说明 进行灾备解决方案设计时,需关注灾备的两个关键技术指标:
o RTO:RecoveryTime Object,恢复时间目标。指灾难发生后,从IT系统宕机导致业务停顿之刻开始,到IT系统恢复至可以支持各部门运作,业务恢复运营之时,此两点之间的时间段称为RTO。RTO是反映业务恢复及时性的指标,体现了企业能容忍的IT系统最长恢复时间。RTO值越小,代表容灾系统的恢复能力越强,但企业投资也越高。
o RPO:Recovery Point Object,恢复点目标。指灾难发生后,容灾系统进行数据恢复,恢复得来的数据所对应的时间点称为RPO。RPO是反映数据丢失量的指标,体现了企业能容忍的最大数据丢失量的指标。RPO值越小,代表企业数据丢失越少,企业损失越小。
解决方案优势
云针对企业对数据库灾备的需求,构建云数据库灾备解决方案,为企业用户提供:
• 多数据中心:云在全球分布有多个数据中心,用户可在就近、合适区域选购、部署云产品。
• 稳定:每个区域及产品比较稳定,云关键部件(SLB、ECS、RDS等)经多轮迭代具备比较完善的灾备能力,可以实现更细粒度的控制,可以通过更多已经产品化的功能模块实现容灾。
• 弹性:用户可根据业务需求横向、纵向扩缩容,按需购买使用的服务。
核心产品灾备设计及技术指标
云产品经多轮迭代具备比较完善的灾备能力,使用以下核心产品可帮助企业应对不同场景及需求的数据库灾备方案设计。
• DTS:Data Transmission Service,是云提供的一种支持多种数据源之间数据交互的数据流服务。它提供了数据迁移、实时数据订阅及数据实时同步等多种数据传输能力。在数据库灾备解决方案中,使用云DTS可实现各数据库间的数据迁移与实时同步,从而为数据库灾备打好最重要的基础。DTS的数据迁移、数据同步详细架构设计及原理请参见产品架构章节。
• DBS:Database Backup Service,是为数据库提供连续数据保护、低成本的备份服务。它可以为多种环境的数据提供强有力的保护,包括企业数据中心、其他云厂商。DBS提供数据备份和操作恢复的整体方案,具备实时增量备份、精确到秒级的数据恢复能力。在数据库灾备解决方案中可使用云DBS实现各数据库间的数据备份。DBS的灾备设计及技术指标见 DBS 章节。
• HDM:Hybrid Cloud Database Management,是混合云数据库管理平台,帮助企业打通混合云数据库架构,提供多环境统一管理、快速弹性、容灾切换的能力。对于混合云灾备场景下,使用云HDM可便捷、快速的将本地IDC的数据同步至云上,并进行容灾切换演练,故障发生时可通过HDM进行容灾切换,保障数据库的可用性。目前HDM计划2018年4月底在云公共云上正式上线。
在灾备场景下,建议可搭配云其他产品,例如DRDS、OSS,这些产品经内外部验证,均具有较高可靠性并可在灾备场景下灵活应用。
DBS
• 灾备设计
数据库备份DBS使用了数据传输DTS的增量数据流技术,可以实现实时的数据备份。在线数据发生变化,数据库备份会获得变更的数据,并将数据实时写入云端OSS,帮助用户实现秒级RPO的数据备份。
image.png
• 技术指标
o 秒级RPO
DBS通过使用数据传输DTS的实时数据流技术,可以读取数据库日志并进行实时解析,然后存储到云端存储上,实现对数据库的增量备份。 通常,DBS可以将增量备份的延迟控制在秒级别以内,根据实际的网络环境不同,延迟的可能会有不同。 在进行数据恢复时,可以使用存储的增量备份实现精确到秒的数据库恢复。最大限度保障数据安全。
o 多环境支持
DBS支持多种网络环境的数据库备份。通过专线接入、VPN网关等接入技术,DBS可以实现用户本地IDC数据库备份、ECS自建数据库的备份、RDS数据库的异地备份、其他云环境的数据库备份。 无论哪个环境的数据库,DBS通过自身的安全机制和实时数据库流技术,都可以向用户提供安全、秒级RPO的数据库备份解决方案。
冷备
当用户本地已部署有数据库及存储设备,可通过云上存储做本地数据库的数据备份,当本地数据库发生故障时可通过云上存储将数据恢复到本地。解决方案架构示例如下:
image.png
架构设计说明:
• 关键部件部署:
o 在用户本地部署有两套数据库:生产数据库和恢复库,分别用于生产数据的存储、故障后数据恢复。
o 在云的两个区域(例如:华南1、华北1)分别购置存储服务,例如OSS对象存储或者NAS文件存储。
• 云下生产数据备份至云上:(可通过以下两种方案中的任意一种将云下生产数据备份至云上)
o 用户可在本地再部署一套存储,将生产数据先备份至本地IDC的存储,再通过本地IDC存储容灾拷贝至云上存储。
o 用户本地的生产数据库与云上存储之间通过数据备份技术(例如Shutdown & copy技术),将生产数据库中的数据定期备份至云上两个区域的存储中。
• 数据恢复:
o 如果用户本地IDC的生产数据库发生故障,但本地IDC的存储运行正常,可通过本地IDC的存储将数据恢复至本地IDC的恢复库。
o 如果用户本地IDC的生产数据库和存储均发生故障,或没有部署本地存储,则可通过云上存储将数据恢复至本地恢复库。
• 架构特点:
o 优点:技术要求中、一致性好。
o 缺点:影响稳定性,需要停机,恢复成本高。
o 适用场景:数据一致性要求高,稳定性需求不强烈。
热备份
当用户对数据备份要求较高时,比如需要连续实时备份,且备份过程中不影响业务运行,此时可购置云DBS服务,实现数据库的热备份,DBS可实现数据实时增量备份、精确到秒级的数据恢复能力。 解决方案架构示例如下:
image.png
架构设计说明:
• 关键部件部署:
o 在用户本地部署有两套数据库:生产数据库和恢复库,分别用于生产数据的存储、故障后数据恢复。
o 在云的两个区域(例如:华南1、华北1)分别购置存储服务,例如OSS对象存储或者NAS文件存储。
o 购置云的DBS服务,用于用户本地数据库实时热备份至云上存储。
• 云下生产数据备份至云上:(可通过以下两种方案中的任意一种将云下生产数据备份至云上)
o 用户可在本地再部署一套存储,将生产数据先备份至本地IDC的存储,再通过本地IDC存储容灾拷贝至云上存储。
o 用户本地的生产数据库与云上存储之间通过云DBS,将生产数据库中的数据直接热备份至云上两个区域的存储中。
• 数据恢复:
o 如果用户本地IDC的生产数据库发生故障,但本地IDC的存储运行正常,可通过本地IDC的存储将数据恢复至本地IDC的恢复库。
o 如果用户本地IDC的生产数据库和存储均发生故障,或没有部署本地存储,则可通过DBS将云上存储将数据恢复至本地恢复库。
• 架构特点:
o 优点:技术要求高、一致性好,恢复时间短。
o 缺点:因为是完全重新构造数据库实例,RTO不可控,随着数据库是来大小而变化。
o 应用场景:比较成熟的备份手段,适用于大部分的关系型数据库。
同城容灾
当用户需要实现同城机房级的数据库灾备方案时,可购置云DTS服务,云DTS可实现数据迁移、数据实时同步等功能。同城容灾时用户可选择复制加高可用、A-S(Active-Standby)模式或A-A(Active-Active)模式:
• 复制加高可用:同城两机房中均部署数据库,通过复制从主用机房的数据库将数据复制备份至备机房的数据库中。当主用机房的数据库发生故障时,业务切换至备用机房的数据库。
• A-S模式:同城两机房中部署完全一致的系统,其中一个机房(Standby)的资源完全用于备份,不对外提供业务。当主用机房(Active)发生故障时,业务切换至备用机房。
• A-A模式:同城两机房中部署完全一致的系统,两个机房均对外提供业务,但在两个机房中均预留一部分资源作为备份。当其中一个机房发生故障时,业务会切换到另一个机房,占用另一个机房预留的资源。 如果用户资源充足且对同城容灾要求较高时,建议采用A-S模式;如果用户资源紧张,建议采用A-A模式。
同城容灾——复制加高可用
以用户使用云数据库RDS为例,复制加高可用的架构如下:
image.png
架构说明:
• 关键部件部署:
o 在机房A和机房B机房分别部署RDS数据库集群。
o SLB、ECS、HA均可跨机房对接应用,两个机房部署一套即可,通过HA管控两个机房的数据库。
• 数据备份与恢复:
o 正常情况下,机房A的数据库通过复制的方式将数据备份至机房B的数据库。
o 机房A数据库故障时,可通过HA将流量直接转移到机房B访问,暂时抛弃机房A的资源,等机房A恢复后重新配置为备选可用区。
• 架构特点:
o 优点:轻量级切换成本低。
o 缺点:可能存在少量数据不一致的风险,比如丢失一个事务。
同城容灾——A-S
以用户在云的一个Region购置了两套最简IT系统为例,数据库的A-S同城容灾解决方案架构示意如下:
image.png
架构说明:
• 关键部件部署:
o 在机房A和机房B机房分别部署对等的DRDS+RDS数据库集群。
o 购置云DTS服务,RDS之间通过DTS进行数据的实时同步和一致性校验,保证两个机房RDS数据的一致性。
• 数据备份与恢复:
o 正常情况下,保证DTS实时同步的稳定运行,如果出现异常,需要处理保证DTS同步的稳定性和准确性。
o 如果机房A数据库故障或者机房整体故障,流量直接转移到机房B访问,暂时抛弃机房A的资源,等机房A恢复后重新配置为备选可用区。
o 如果只是应用端故障则将流量转移至机房B访问,同时需要对数据段做一致性校验,校验完成后,机房B成为主数据库,机房作为备数据库,数据同步的流向发生变化,由机房B同步到机房 A 。
o 需要配置RDS-DTS-RDS之间的同步链路。
• 架构特点:
o 优点:性能最好,Zone A 故障时可以自动切换,人为干预程度低。
o 缺点:资源利用率50%。
同城容灾——A-A
以用户在云的一个Region购置了两套最简IT系统为例,数据库的A-A同城容灾解决方案架构示例如下:
image.png
架构设计说明:
• 关键部件部署:
o 在云的同一个Region的两个可用区(机房A与机房B)部署两套最简IT系统。其中机房A与机房B均为Active状态。
o 前端接入可部署DNS解析与SLB负载均衡,计算可使用云ECS弹性计算服务。数据库可使用云DRDS、RDS。
o 数据库间使用云DTS服务实现数据迁移、数据的实时增量同步。
• 同城灾备流程:
o 在机房A正常运行状态下,用户生产数据从机房A的数据库,通过DTS实时同步至机房B的数据库,且通过DTS来校验两个机房数据库中数据的一致性。
o 当机房A发生故障,整个机房无法工作时,前端DNS将流量解析至机房B,用户生产数据存储至机房B的数据库中。
• 架构特点:
o 优点:资源利用率较方案一高。
o 缺点:应用需要接受使用机房B应用服务带来的跨区访问延迟,机房A故障时切换需要人工修改机房B应用服务上应用配置的数据库连接地址为机房B的DRDS库地址。
分布式数据库解决方案
行业背景
由于移动互联网和智能终端的普及及发展,数据信息正以每年40%的速度增长,在如此庞大的数据量基础之上,企业在存储数据时还需面对数据种类的多样性、实时交互性。在此背景之下,传统的IOE集中式数据库的应用就出现了扩展瓶颈。
传统IOE数据库架构示意图如下。
image.png
使用传统IOE数据库将面临以下技术难点。
• 数据库连接瓶颈:当应用服务器不断扩容时,应用服务器与数据库之间的连接数逐步增高,而此连接数随着应用服务器的不断扩容将到达一个瓶颈。
• 数据库IO性能瓶颈:当数据库存储需求增加时,需对数据库存储不断扩容,此时数据存储成本增加,且存储规格到达顶配之后无法扩容,会遭遇数据库存储瓶颈。
• 数据变更风险增加:传统IOE数据库架构中,所有应用服务器的数据库集中在一起,数据库如果执行数据变更时,会有较高风险影响到全局数据。
此时,使用分布式数据库可以解决上述技术难点,分布式数据库架构如下图所示。
image.png
使用分布式数据有以下优势。
• 大规模MySQL数据库支持高可用切换,且切换后应用服务器不需要修改配置,自动重连数据库。
• 应用服务器和数据库可水平扩容,且成本低、性能高。
• 数据库变更和维护风险分散。
然而,如下图分布式数据库的实现原理示意图所示,在应用分布式数据时仍存在以下挑战。
image.png
• 开发挑战
o 主键和唯一键不一定能保证全局唯一。
o 分布式数据库架构下挑战。
o SQL没有拆分键作为条件时会导致扫描所有分表。
o 跨库Join性能不好。
o 跨库事务(分布式事务)不支持或者性能不好。
• 运维挑战
o 大规模MySQL实例运维效率不高。
o 大规模MySQL高可用切换比较难做。
o 异地多活或容灾搭建成本高。
o 分表变更和查询不方便。
因此,更高效完善的应用分布式数据库,我们需要一个围绕分布式数据库的综合解决方案——云分布式数据库解决方案。
解决方案优势
云分布式数据库解决方案围绕分布式数据库,从开发、运维、数据库迁移及扩展方面提供了统一的综合解决方案,为分部署数据库应用降低门槛提高效率。
云分布式数据库解决方案架构图如下。
image.png
• 架构说明
o 用户在云上购置DTS、DMS、DRDS、RDS、CloudDBA。
o 通过DTS可将用户本地IDC部署的Oracle、DB2、MySQL等数据库的数据传输至云上分布式数据库DRDS中。
o 通过DMS可对数据进行高效、自动的管理。
o 通过CloudDBA可智能监控诊断云上数据库。
• 方案优势
o 降低开发门槛:对开发人员屏蔽了分布式下开发技术细节,降低了开发人员对分布式数据库的不适应,降低开发门槛。
o 提高运维效率:对运维人员屏蔽了分布式下数据库运维细节,降低了运维对分布式数据库的不适应,提高运维效率。
o 支持数据库迁移:支持用户本地IDC的Oracle/MySQL等数据库迁移到云上分布式数据库DRDS。
o 支持数据库扩展:云上数据库DRDS和RDS支持弹性扩展、按需使用付费。
核心产品
• DRDS:Distributed Relational Database Service,是巴巴致力于解决单机数据库服务瓶颈问题而自主研发推出的分布式数据库产品。DRDS高度兼容MySQL协议和语法,支持自动化水平拆分、在线平滑扩缩容、弹性扩展、透明读写分离,具备数据库全生命周期运维管控能力。
• RDS:Relational Database Service,是一种稳定可靠、可弹性伸缩的在线数据库服务。基于云分布式文件系统和SSD盘高性能存储,并且提供了公共云数据库的容灾、备份、恢复、监控、迁移等方面的全套解决方案。
• HDM:Hybrid Cloud Database Management,是混合云数据库管理平台,帮助企业打通混合云数据库架构,提供多环境统一管理、快速弹性、容灾切换的能力。对于混合云灾备场景下,使用云HDM可便捷、快速的将本地IDC的数据同步至云上,并进行容灾切换演练,故障发生时可通过HDM进行容灾切换,保障数据库的可用性。
• DTS:Data Transmission Service,是云提供的一种支持多种数据源之间数据交互的数据流服务。它提供了数据迁移、实时数据订阅及数据实时同步等多种数据传输能力。在数据库灾备解决方案中,使用云DTS可实现各数据库间的数据迁移与实时同步,从而为数据库灾备打好最重要的基础。
• DMS:Data Management,支持MySQL、SQL Server、PostgreSQL、MongoDB、Redis等关系型数据库和NoSQL的数据库管理,同时还支持Linux服务器管理。它是一种集数据管理、结构管理、访问安全、BI图表、数据趋势、数据轨迹、性能与优化和服务器管理于一体的数据管理服务。
• CloudDBA:CloudDBA是监控和管理RDS实例性能及运行状况的服务,在RDS控制台的实例管理页面,目前只适用于MySQL类型的实例。针对SQL语句的性能、CPU使用率、IOPS使用率、内存使用率、磁盘空间使用率、连接数、锁信息、热点表等,CloudDBA提供了智能的诊断及优化功能,能最大限度发现数据库存在的或潜在的健康问题。CloudDBA的诊断基于单个实例,该诊断会提供问题详情及相应的解决方案,可为您管理实例运行状况带来极大的便利。典型应用场景
目前DRDS适合面向用户的OLTP交易易型业务,不适合OLAP分析型业务。应用的主要业务表是根据用户维度拆分,随着用户访问压力的增加,DRDS可以弹性扩展,提供更高的性能。

0

评论区