带你认识数仓的增量备份核心设计_华为云开发者社区的技术博客_51CTO博客

摘要：增量备份是重要的常规备份策略，正确快速识别增量变化文件的相关信息对增量备份至关重要。

本文分享自华为云社区《其疾如风，GaussDB（DWS）增量备份核心设计》，作者：我的橘子呢。

1、认识增量备份

GaussDB(DWS)数仓的备份恢复工具Roach支持集群级增量备份。全量备份会将源数据完整备份，而增量备份仅将上次备份后所作的更改进行备份，这里的上次备份可以使全量备份，也可以是全量备份后的增量备份。需要注意的是，增量备份的基础始终是全量备份，如果一次全量备份之后进行了全量恢复，则不能再基于该全量备份进行增量备份，必须重新进行全量备份然后基于新的全量备份进行增量备份。增量备份分为两种：累积增量备份和差分增量备份。

累积增量备份：如果一次全量备份后的多次增量备份，指定的prior-backup-key始终为全量备份的backup-key，即所有的增量备份都是基于全量备份来进行的，那么这些增量备份就是累积增量备份，累积增量备份均是基于最近一次全量备份进行的，如图1所示。

图1 累积增量备份示意图

差分增量备份：如果一次全量备份后的多次增量备份，指定的prior-backup-key均为上一次备份（可能是全量备份也可能增量备份）的backup-key，即此次备份是基于上一次备份集来进行的，那么这些增量备份就是差分增量备份，差分增量备份均是基于最近一次备份进行的，如图2所示。

图2 差分增量备份示意图

2、增量备份之CBM设计

增量备份只需要备份上一备份节点到当前时间发生变化的数据文件，为了实现备份数据的完整性与一致性，正确识别并备份增量数据文件是至关重要的，作为增量备份的核心设计，Gauss数据库内核的事务日志功能与cbm设计可以帮助Roach工具快速准确识别增量期间数据文件的变换信息，为快速准确完成增量备份提供了有力保障。

（1）WAL与事务日志

为了保证数据的一致性和完整性，在对数据进行相关操作之前都会将具体的操作记录下来，持久化到可靠存储中，然后再进行具体的数据操作，这就是所谓的WAL（Write Ahead Logging），记录的相关操作称为XLOG日志，每一条日志记录都由LSN进行唯一标识。这样做的好处是事物的记录被提前记录并保存起来，在因一些外部原因（比如断电、操作系统失败等）导致操作失败后，我们可以通过保存的事物日志将这些操作重新执行一遍，保证数据不会丢失。相关操作如图3所示。

图3 WAL操作示意图

（2）Checkpoint操作

当系统运行时间较长的时候，由于操作较多，日志文件的数量也较多。如果每次利用日志进行恢复操作都会耗费大量的时间，为了节约时间同时减少不必要的恢复操作，引入了checkpoint的概念。checkpoint表示在此操作之前，相关数据已经被保存到永久存储中，即使系统故障，这部分数据也不会丢失，因此恢复的时候只要从checkpoint操作之后根据日志执行恢复操作就可以了。checkpoint本身也是一条xlog记录，该记录包含了redo点的位置，因此，每次恢复数据时，先从xloh记录里找到最近的一次checkpoint记录，并根据该记录找到相应的redo点位置，这就是执行本次恢复的起始点位置。如图4所示，checkpoint操作记录了redo点的位置。

图4 Checkpoint操作示意图

（3）CBM设计

基于上述功能，由于数据的所有变化都被记录在了xlog中，Gauss数据库内核通过增加常驻的CBM writer线程，持续不断地对新增的xlog进行解析，识别并记录哪些数据数据页面被修改。CBM记录的生成过程如图5所示。

图5 CBM生成示意图

CBM writer线程的工作流程为：

进程启动时即开启CBM writer功能
在startup线程刚启动时，其根据已经解析出来的CBM文件，来决定CBM writer开始解析的起始LSN位置。每次执行到checkpoint末尾是，会设置CBM writer线程的latch。CBM writer线程等待latch被设置，然后进行一轮日志解析。
通过动态reload GUC参数，开启CBM writer功能
由于是动态开启的CBM writer功能，因此startup线程没有初始化CBM解析的起始位置。打开enable_cbm_writer开关的同时，会将CBM强制初始化的标志置为true。当CBM writer线程启动之后，其第一次解析中，会强制初始化获得解析的起始lsn。