数据库｜TiDB Binlog实践指南，轻松实现主备集群部署和数据同步

最近手头有个系统，有需要搭建灾备库的需求（RTO要求4小时内，根据实际情况计算）。考虑到生产系统是5版本，TiCDC存在一些兼容性问题，且TiDB Binlog已经有实践案例及经验可供参考，故选择使用TiDB Binlog来实现主集群-->灾备集群的增量数据同步。数据全量初始化采用Dumpling + TiDB Lightning工具。

具体实施过程如下：

一、灾备集群部署

二、主集群扩容pump

pump_servers:
  - host: 10.3.31.1 ssh_port: 22 port: 8250 deploy_dir: /app/tidb/tidb-deploy/pump-8250 og_dir: /app/tidb/tidb-deploy/pump-8250/log data_dir: /app/tidb/tidb-data/pump-8250 - host: 10.3.31.2 ssh_port: 22 port: 8250 deploy_dir: /app/tidb/tidb-deploy/pump-8250 log_dir: /app/tidb/tidb-deploy/pump-8250/log data_dir: /app/tidb/tidb-data/pump-8250 - host: 10.3.31.3 ssh_port: 22 port: 8250 deploy_dir: /app/tidb/tidb-deploy/pump-8250 log_dir: /app/tidb/tidb-deploy/pump-8250/log data_dir: /app/tidb/tidb-data/pump-8250

[tidb@tidb-test1 ~]$ tiup cluster scale-out tidb-test ./scale-out-pump.yaml -u tidb -p

三、开启主集群Binlog功能

[tidb@tidb-test1 ~]$ tiup cluster edit-config tidb-test

binlog.enable: true binlog.ignore-error: true

[tidb@tidb-test1 ~]$ tiup cluster reload tidb-test -R tidb

reload完成后，会输出如下内容

四、主集群调整GC时间

set global tidb_gc_life_time = '360m';

五、使用dumpling工具并将生产数据全量导出

[tidb@tidb-test1 ~]$ sudo mkdir $/dumpdir （$/dumpdir为导出数据存放目录，需确保空间充足）
[tidb@tidb-test1 ~]$ sudo chmod 777 $/dumpdir -R
[tidb@tidb-test1 ~]$ ./dumpling -u root -P 4000 -h 10.3.31.1 --filetype sql -t 8 -o $/dumpdir -r 200000 -F256MiB

六、将导出数据目录上传至灾备服务器，进行全量导入

[lightning] level = "info" file = "tidb-lightning.log" index-concurrency = 2 table-concurrency = 6 io-concurrency =20  [tikv-importer] backend = "local" sorted-kv-dir = "/home/tidb/sorted"  [mydumper] data-source-dir = "$/dumpdir" no-schema = false filter = ['*.*']  [tidb] host = "10.3.31.101" port = 4000 user = "root" password = "" status-port = 10080 pd-addr = "10.3.31.101:2379"  [checkpoint] enable = true schema = "lightning-task-sql-checkpoint" driver = "file"  [post-restore] checksum = true analyze = false

[tidb@tidb-test1 ~]$ nohup ./tidb-lightning --config lightning-full.toml &

七、灾备集群扩容pump

pump_servers:
  - host: 10.3.31.101 ssh_port: 22 port: 8250 deploy_dir: /app/tidb/tidb-deploy/pump-8250 og_dir: /app/tidb/tidb-deploy/pump-8250/log data_dir: /app/tidb/tidb-data/pump-8250 - host: 10.3.31.102 ssh_port: 22 port: 8250 deploy_dir: /app/tidb/tidb-deploy/pump-8250 log_dir: /app/tidb/tidb-deploy/pump-8250/log data_dir: /app/tidb/tidb-data/pump-8250 - host: 10.3.31.103 ssh_port: 22 port: 8250 deploy_dir: /app/tidb/tidb-deploy/pump-8250 log_dir: /app/tidb/tidb-deploy/pump-8250/log data_dir: /app/tidb/tidb-data/pump-8250

[tidb@tidb-test1 ~]$ tiup cluster scale-out tidb-test ./scale-out-pump.yaml -u tidb

八、灾备集群开启Binlog功能

[tidb@tidb-test1 ~]$ tiup cluster edit-config tidb-test

binlog.enable: true binlog.ignore-error: true

[tidb@tidb-test1 ~]$ tiup cluster reload tidb-test -R tidb

九、生产集群与灾备集群新建Drainer用户并授权

create user 'drainer'@'%' IDENTIFIED by 'Passwd@123'; grant select on . to 'drainer'@'%' with grant OPTION; grant insert on . to 'drainer'@'%' with grant OPTION; grant update on . to 'drainer'@'%' with grant OPTION; grant delete on . to 'drainer'@'%' with grant OPTION; grant create on . to 'drainer'@'%' with grant OPTION; grant drop on . to 'drainer'@'%' with grant OPTION; grant alter on . to 'drainer'@'%' with grant OPTION; grant execute on . to 'drainer'@'%' with grant OPTION; grant index on . to 'drainer'@'%' with grant OPTION; grant create view on . to 'drainer'@'%' with grant OPTION; Flush privileges;

十、灾备集群扩容Drainer（本地记录Binlog，实现增量备份）

drainer_servers:
  - host: 10.3.31.104 port: 18249 deploy_dir: /tidb-deploy/drainer-18249 data_dir: /tidb-data/drainer-18249 config:
      syncer.db-type: "file" syncer.to.host: "10.3.31.104" syncer.to.dir: &binlog_dir（需手动创建，新建目录需将属主与属组改为tidb用）

[tidb@tidb-test1 ~]$ tiup cluster scale-out tidb-test ./scale-out-drainer.yaml --user tidb -p

十一、主集群扩容Drainer

drainer_servers: - host: 10.3.31.104 port: 8249 deploy_dir: /tidb-deploy/drainer-8249 data_dir: /tidb-data/drainer-8249 config: initial-commit-ts: （dumpling导出metadata中的Pso）
      syncer.db-type: "tidb" syncer.to.host: "10.3.31.101" syncer.to.user: "drainer" syncer.to.password: "XXX"(密码为第9步新建的drainer用户密码)
      syncer.to.port: 24000

dumpling导出metadata中Pso查看方式：

导出数据目录中$/dumpdir ，会有一个metadata的文件，执行cat命令即可查看该文件中Pso，如图所示：

[tidb@tidb-test1 ~]$ tiup cluster scale-out tidb-test ./scale-out-drainer.yaml --user tidb -p

十二、检验同步链路是否搭建成功

checkpoint正常推进，代表drainer同步链路正常工作。

在生产库新建test表或在原有test表中插入数据，在灾备库进行查询，如生产库执行的DDL或DML在灾备库能够查询到，证明生产库增量数据可通过同步链路同步至灾备库，生产-->灾备数据同步链路搭建成功。

十三、GC时间调整回原配置

set global tidb_gc_life_time = '10m';

sql返回执行成功后，再次执行select @@tidb_gc_life_time；，查询结果输出为1h或10m，即为调整成功。

至此TiDB Binlog搭建的集群数据同步链路搭建完成，数据同步成功。

部署过程中，需要注意的是drainer的initial-commit-ts参数，只能在部署的时候配置，无法在已有drainer节点上进行配置。后续运维过程中，需额外关注Skip Binlog Count监控指标，防止出现TiDB 写入 Binlog 失败的情况，如出现TiDB 写入 Binlog 失败，需及时进行处理。

各位路过大佬如果有相关方案及操作步骤改进建议，欢迎进群讨论。