博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Mysql基于GTID复制模式-运维小结 (完整篇)
阅读量:6005 次
发布时间:2019-06-20

本文共 39432 字,大约阅读时间需要 131 分钟。

 

先来看mysql5.6主从同步操作时遇到的一个报错:

mysql> change master to master_host='192.168.10.59',master_user='repli',master_password='repli@123',master_log_file='mysql-bin.000004',master_log_pos=49224392;
ERROR 1776 (HY000): Parameters MASTER_LOG_FILE, MASTER_LOG_POS, RELAY_LOG_FILE and RELAY_LOG_POS cannot be set when MASTER_AUTO_POSITION is active.

产生原因:主从数据库双方都开启了gtid功能(通过命令"show variables like '%gtid%';"查看),gtid功能是mysql5.6版本出来的新特性! 

解决办法:

1)方法一: 提前执行下面语句
mysql> change master to master_auto_position=1;
mysql> change master to master_host='192.168.10.59',master_user='repli',master_password='repli@123',master_log_file='mysql-bin.000004',master_log_pos=49224392;

2)方法二: 在change语句后面添加

mysql> change master to  master_host='192.168.10.59',master_user='repli',master_password='repli@123',master_port=3306,master_auto_position=1;

                                                                                                                                                                                         

一、GTID概念介绍

GTID即全局事务ID (global transaction identifier), 其保证为每一个在主上提交的事务在复制集群中可以生成一个唯一的ID。GTID最初由google实现,官方MySQL在5.6才加入该功能。mysql主从结构在一主一从情况下对于GTID来说就没有优势了,而对于2台主以上的结构优势异常明显,可以在数据不丢失的情况下切换新主。使用GTID需要注意: 在构建主从复制之前,在一台将成为主的实例上进行一些操作(如数据清理等),通过GTID复制,这些在主从成立之前的操作也会被复制到从服务器上,引起复制失败。也就是说通过GTID复制都是从最先开始的事务日志开始,即使这些操作在复制之前执行。比如在server1上执行一些drop、delete的清理操作,接着在server2上执行change的操作,会使得server2也进行server1的清理操作。

GTID实际上是由UUID+TID (即transactionId)组成的。其中UUID (即server-uuid) 是一个MySQL实例的唯一标识,产生于auto.conf中。TID代表了该实例上已经提交的事务数量,并且随着事务提交单调递增,所以GTID能够保证每个MySQL实例事务的执行(不会重复执行同一个事务,并且会补全没有执行的事务)。GTID在一组复制中,全局唯一。 下面是一个GTID的具体形式 :

mysql> show master status;+-----------+----------+--------------+------------------+-------------------------------------------+| File      | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set                         |+-----------+----------+--------------+------------------+-------------------------------------------+| on.000003 |      187 |              |                  | 7286f791-125d-11e9-9a9c-0050568843f8:1-362|+-----------+----------+--------------+------------------+-------------------------------------------+1 row in set (0.00 sec)GTID:7286f791-125d-11e9-9a9c-0050568843f8:1-362UUID:7286f791-125d-11e9-9a9c-0050568843f8transactionId:1-362在整个复制架构中GTID 是不变化的,即使在多个连环主从中也不会变。例如:ServerA --->ServerB ---->ServerC GTID从在ServerA ,ServerB,ServerC 中都是一样的。

了解了GTID的格式,通过UUID可以知道这个事务在哪个实例上提交的。通过GTID可以极方便的进行复制结构上的故障转移,新主设置,这就很好地解决了下面这个图所展现出来的问题。

如图, Server1(Master)崩溃,根据从上show slave status获得Master_log_File/Read_Master_Log_Pos的值,Server2(Slave)已经跟上了主,Server3(Slave)没有跟上主。这时要是把Server2提升为主,Server3变成Server2的从。这时在Server3上执行change的时候需要做一些计算。

这个问题在5.6的GTID出现后,就显得非常的简单。由于同一事务的GTID在所有节点上的值一致,那么根据Server3当前停止点的GTID就能定位到Server2上的GTID。甚至由于MASTER_AUTO_POSITION功能的出现,我们都不需要知道GTID的具体值,直接使用CHANGE MASTER TO MASTER_HOST='xxx', MASTER_AUTO_POSITION命令就可以直接完成failover的工作。

======  GTID和Binlog的关系  ======

-  GTID在binlog中的结构

-  GTID event 结构

-  Previous_gtid_log_event

Previous_gtid_log_event 在每个binlog 头部都会有每次binlog rotate的时候存储在binlog头部Previous-GTIDs在binlog中只会存储在这台机器上执行过的所有binlog,不包括手动设置gtid_purged值。换句话说,如果你手动set global gtid_purged=xx; 那么xx是不会记录在Previous_gtid_log_event中的。

-  GTID和Binlog之间的关系是怎么对应的呢? 如何才能找到GTID=? 对应的binlog文件呢?

假设有4个binlog: bin.001,bin.002,bin.003,bin.004

bin.001 : Previous-GTIDs=empty; binlog_event有: 1-40
bin.002 : Previous-GTIDs=1-40; binlog_event有: 41-80
bin.003 : Previous-GTIDs=1-80; binlog_event有: 81-120
bin.004 : Previous-GTIDs=1-120; binlog_event有: 121-160

假设现在我们要找GTID=$A,那么MySQL的扫描顺序为:

- 从最后一个binlog开始扫描(即: bin.004)
- bin.004的Previous-GTIDs=1-120,如果$A=140 > Previous-GTIDs,那么肯定在bin.004中
- bin.004的Previous-GTIDs=1-120,如果$A=88 包含在Previous-GTIDs中,那么继续对比上一个binlog文件 bin.003,然后再循环前面2个步骤,直到找到为止.

======  GTID 重要参数的持久化  =======

-  GTID相关参数

-  重要参数如何持久化

1) 如何持久化gtid_executed    (前提是log-bin=mysql-bin, log_slave_update=1 )

gtid_executed = mysql.gtid_executed        #正常情况下或者gtid_executed = mysql.gtid_executed + last_binlog中最后没写到mysql.gtid_executed中的gtid_event     #恢复情况下

2) 如何持久化重置的gtid_purged值?

reset master; set global gtid_purged=$A:a-b;================================================================================================1. 由于有可能手动设置过gtid_purged=$A:a-b, binlog.index中,last_binlog的Previous-GTIDs并不会包含$A:a-b2. 由于有可能手动设置过gtid_purged=$A:a-b, binlog.index中,first_binlog的Previous-GTIDs肯定不会出现$A:a-b3. 重置的gtid_purged = @@global.gtid_executed(mysql.gtid_executed:注意,考虑到这个表的更新触发条件,所以这里   用@@global.gtid_executed代替) - last_binlog的Previous-GTIDs  - last_binlog所有的gtid_event4. 下面就用 $reset_gtid_purged 来表示重置的gtid

3) 如何持久化gtid_purged  (前提是log-bin=mysql-bin, log_slave_update=1 )

gtid_purged=binlog.index:first_binlog的Previous-GTIDs + $reset_gtid_purged

======  开启GTID的必备条件  ======  

-  MySQL 5.6 版本,在my.cnf文件中添加:

gtid_mode=on (必选)                    #开启gtid功能log_bin=log-bin=mysql-bin (必选)       #开启binlog二进制日志功能log-slave-updates=1 (必选)             #也可以将1写为onenforce-gtid-consistency=1 (必选)      #也可以将1写为on

-  MySQL 5.7或更高版本,在my.cnf文件中添加:

gtid_mode=on    (必选)enforce-gtid-consistency=1  (必选)log_bin=mysql-bin           (可选)    #高可用切换,最好开启该功能log-slave-updates=1     (可选)       #高可用切换,最好打开该功能

======  新的复制协议 COM_BINLOG_DUMP_GTID  ======

-  Slave sends to master range of identifiers of executed transactions to master

-  Master send all other transactions to slave
-  同样的GTID不能被执行两次,如果有同样的GTID,会自动被skip掉。

slave1 : 将自身的UUID1:1 发送给 master,然后接收到了 UUID1:2,UUID1:3 event

slave2 : 将自身的UUID1:1,UUID1:2 发送给 master,然后接收到了UUID1:3 event

Binlog dump

最开始的时候,MySQL只支持一种binlog dump方式,也就是指定binlog filename + position,向master发送COM_BINLOG_DUMP命令。在发送dump命令的时候,我们可以指定flag为BINLOG_DUMP_NON_BLOCK,这样master在没有可发送的binlog event之后,就会返回一个EOF package。不过通常对于slave来说,一直把连接挂着可能更好,这样能更及时收到新产生的binlog event。在MySQL 5.6之后,支持了另一种dump方式,也就是GTID dump,通过发送COM_BINLOG_DUMP_GTID命令实现,需要带上的是相应的GTID信息.

二、GTID的工作原理

从服务器连接到主服务器之后,把自己执行过的GTID(Executed_Gtid_Set)<SQL线程> 、获取到的GTID(Retrieved_Gtid_Set)<IO线程>发给主服务器,主服务器把从服务器缺少的GTID及对应的transactions发过去补全即可。当主服务器挂掉的时候,找出同步最成功的那台从服务器,直接把它提升为主即可。如果硬要指定某一台不是最新的从服务器提升为主, 先change到同步最成功的那台从服务器, 等把GTID全部补全了,就可以把它提升为主了。

GTID是MySQL 5.6的新特性,可简化MySQL的主从切换以及Failover。GTID用于在binlog中唯一标识一个事务。当事务提交时,MySQL Server在写binlog的时候,会先写一个特殊的Binlog Event,类型为GTID_Event,指定下一个事务的GTID,然后再写事务的Binlog。主从同步时GTID_Event和事务的Binlog都会传递到从库,从库在执行的时候也是用同样的GTID写binlog,这样主从同步以后,就可通过GTID确定从库同步到的位置了。也就是说,无论是级联情况,还是一主多从情况,都可以通过GTID自动找点儿,而无需像之前那样通过File_name和File_position找点儿了。

简而言之,GTID的工作流程为:

-  master更新数据时,会在事务前产生GTID,一同记录到binlog日志中。
-  slave端的i/o 线程将变更的binlog,写入到本地的relay log中。
-  sql线程从relay log中获取GTID,然后对比slave端的binlog是否有记录。
-  如果有记录,说明该GTID的事务已经执行,slave会忽略。
-  如果没有记录,slave就会从relay log中执行该GTID的事务,并记录到binlog。
-  在解析过程中会判断是否有主键,如果没有就用二级索引,如果没有就用全部扫描。

三、GTID的优缺点

GTID的优点

-  一个事务对应一个唯一ID,一个GTID在一个服务器上只会执行一次;
-  GTID是用来代替传统复制的方法,GTID复制与普通复制模式的最大不同就是不需要指定二进制文件名和位置;
-  减少手工干预和降低服务故障时间,当主机挂了之后通过软件从众多的备机中提升一台备机为主机;

GTID复制是怎么实现自动同步,自动对应位置的呢?

比如这样一个主从架构:ServerC <-----ServerA ----> ServerB
即一个主数据库ServerA,两个从数据库ServerB和ServerC

当主机ServerA 挂了之后 ,此时ServerB执行完了所有从ServerA 传过来的事务,ServerC 延时一点。这个时候需要把 ServerB 提升为主机 ,Server C 继续为备机;当ServerC 链接ServerB 之后,首先在自己的二进制文件中找到从ServerA 传过来的最新的GTID,然后将这个GTID 发送到ServerB ,ServerB 获得这个GTID之后,就开始从这个GTID的下一个GTID开始发送事务给ServerC。这种自我寻找复制位置的模式减少事务丢失的可能性以及故障恢复的时间。

GTID的缺点(限制)

-  不支持非事务引擎;
-  不支持create table ... select 语句复制(主库直接报错);(原理: 会生成两个sql, 一个是DDL创建表SQL, 一个是insert into 插入数据的sql; 由于DDL会导致自动提交, 所以这个sql至少需要两个GTID, 但是GTID模式下, 只能给这个sql生成一个GTID)
-  不允许一个SQL同时更新一个事务引擎表和非事务引擎表;
-  在一个复制组中,必须要求统一开启GTID或者是关闭GTID;
-  开启GTID需要重启 (mysql5.7除外);
-  开启GTID后,就不再使用原来的传统复制方式;
-  对于create temporary table 和 drop temporary table语句不支持;
-  不支持sql_slave_skip_counter;

======  那么到底为什么要用GTID呢?======

1. classic replication         [传统复制 , 运维之痛]

2. GTID replication       [GTID复制,很简单]

3. GTID的Limitation (及应对措施)

- 不安全的事务 

设置enforce-gtid-consistency=1

- MySQL5.7 GTID crash-safe

1) 单线程复制Non-GTID 推荐配置: relay_log_recovery=1relay_log_info_repository=TABLEmaster_info_repository=TABLEGTID 推荐配置MASTER_AUTO_POSITION=onrelay_log_recovery=02) 多线程复制Non-GTID 推荐配置:relay_log_recovery=1sync_relay_log=1relay_log_info_repository=TABLEmaster_info_repository=TABLEGTID 推荐配置:MASTER_AUTO_POSITION=onrelay_log_recovery=0

======  Mysql开启GTID时,需要注意的问题  ======

-  slave不能执行任何sql,包括超级用户;

-  read_only=on, slave必须要开启这个,避免业务执行sql;
-  保证当前slave的事务id为1;

当slave同步出现问题时,手动跳过,需要考虑的问题

- 执行的sql,不能记录事务id,否则slave切换为master时,会导致从同步失败,因为binglog早已删除。
- SET @MYSQLDUMP_TEMP_LOG_BIN = @@SESSION.SQL_LOG_BIN;
- SET @@SESSION.SQL_LOG_BIN= 0;

需要执行的sql操作:

SET @@SESSION.SQL_LOG_BIN = @MYSQLDUMP_TEMP_LOG_BIN;

查看当前数据的uuid

show GLOBAL VARIABLES like 'server_uuid';

查看当前数据库的已执行过的事务

show master status;

手动设置事务id

SET @MYSQLDUMP_TEMP_LOG_BIN = @@SESSION.SQL_LOG_BIN;SET @@SESSION.SQL_LOG_BIN= 0;SET @@GLOBAL.GTID_PURGED='132028ab-abc5-11e6-b2f0-000c29a60c3d:1-45679';SET @@SESSION.SQL_LOG_BIN = @MYSQLDUMP_TEMP_LOG_BIN;

另外还需要注意

-  开启GTID以后,无法使用sql_slave_skip_counter跳过事务,因为主库会把从库缺失的GTID,发送给从库,所以skip是没有用的。
-  为了提前发现问题,在gtid模式下,直接禁止使用set global sql_slave_skip_counter =x。正确的做法: 通过set grid_next= 'aaaa'('aaaa'为待跳过的事务),然后执行BIGIN; 接着COMMIT产生一个空事务,占据这个GTID,再START SLAVE,会发现下一条事务的GTID已经执行过,就会跳过这个事务了
-  如果一个GTID已经执行过,再遇到重复的GTID,从库会直接跳过,可看作GTID执行的幂等性。

四、GTID测试解析

1)  复制的测试环境

因为支持GTID,所以5.6多了几个参数:

mysql> show variables like '%gtid%';+----------------------------------+------------------------------------------+| Variable_name                    | Value                                    |+----------------------------------+------------------------------------------+| binlog_gtid_simple_recovery      | ON                                       || enforce_gtid_consistency         | ON                                       || gtid_executed                    |                                          || gtid_executed_compression_period | 1000                                     || gtid_mode                        | ON                                       || gtid_next                        | AUTOMATIC                                || gtid_owned                       |                                          || gtid_purged                      | d47f31fd-eba4-11e7-af2a-56b1d2e75ff8:1-9 || session_track_gtids              | OFF                                      |+----------------------------------+------------------------------------------+9 rows in set (0.00 sec)

这里简单说下几个常用参数的作用:

gtid_executed

在当前实例上执行过的 GTID 集合,实际上包含了所有记录到 binlog 中的事务。设置 set sql_log_bin=0 后执行的事务不会生成 binlog 事件,也不会被记录到 gtid_executed 中。执行 RESET MASTER 可以将该变量置空。

gtid_purged

binlog 不可能永远驻留在服务上,需要定期进行清理(通过 expire_logs_days 可以控制定期清理间隔),否则迟早它会把磁盘用尽。gtid_purged 用于记录本机上已经执行过,但是已经被清除了的 binlog 事务集合。它是 gtid_executed 的子集。只有 gtid_executed 为空时才能手动设置该变量,此时会同时更新 gtid_executed 为和 gtid_purged 相同的值。

gtid_executed 为空意味着要么之前没有启动过基于 GTID 的复制,要么执行过 RESET MASTER。执行 RESET MASTER 时同样也会把 gtid_purged 置空,即始终保持 gtid_purged 是 gtid_executed 的子集。

gtid_next

会话级变量,指示如何产生下一个GTID。可能的取值如下:
-  AUTOMATIC: 自动生成下一个 GTID,实现上是分配一个当前实例上尚未执行过的序号最小的 GTID。
-  ANONYMOUS: 设置后执行事务不会产生GTID。
-  显式指定的GTID: 可以指定任意形式合法的 GTID 值,但不能是当前 gtid_executed 中的已经包含的 GTID,否则下次执行事务时会报错。

mysql5.6主从环境的搭建和5.5没有什么区别,唯一需要注意: 开启GTID需要在my.cnf配置文件中启用这三个参数(每个节点上都添加)

#GTIDgtid_mode = on                  #开启gtid功能enforce_gtid_consistency = 1    #表示开启gtid的一些安全限制,也可以将1写成onlog_slave_updates = 1           #注意1表示打开该功能,也可以将1写成on

上面任意一个参数任意一个参数不开启则都会报错:

2017-08-09 02:33:57 6512 [ERROR] --gtid-mode=ON or UPGRADE_STEP_1 or UPGRADE_STEP_2 requires --log-bin and --log-slave-updates2017-08-09 02:33:57 6512 [ERROR] Aborting2017-08-09 02:39:58 9860 [ERROR] --gtid-mode=ON or UPGRADE_STEP_1 requires --enforce-gtid-consistency2017-08-09 02:39:58 9860 [ERROR] Aborting

这里特意说下"log_slave_updates"这个参数选项,通常slave服务器从master服务器接收到的更新不记入slave的二进制日志。该参数选项告诉slave从服务器将其SQL线程执行的更新记入到slave服务器自己的二进制日志。为了使该选项生效,还必须启动binlog二进制日志功能!!比如:

A01和A02为主主复制,A01和B01为主从复制,在测试的过程中发现了以下问题:-  A01和A02的主主复制是没有问题的(从A01写入数据能同步到A02,从A02写入数据能够同步到A01);-  主从同步的时候,当从A01写入的时候,数据可以写入到B01;-  当从A02写入的时候,数据就不能写入到B01;这个问题产生的原因:log_slave_updates参数的状态为NO

创建mysql三个实例(3306、3307、3308),启动之后,执行change时需要注意

各个实例的uuid:

3306:mysql> select @@server_uuid;+--------------------------------------+| @@server_uuid                        |+--------------------------------------+| 4e659069-3cd8-11e5-9a49-001c4270714e |+--------------------------------------+3307:mysql> select @@server_uuid;+--------------------------------------+| @@server_uuid                        |+--------------------------------------+| 041d0e65-3cde-11e5-9a6e-001c4270714e |+--------------------------------------+3308:mysql> select @@server_uuid;+--------------------------------------+| @@server_uuid                        |+--------------------------------------+| 081ccacf-3ce4-11e5-9a95-001c4270714e |+--------------------------------------+

使用5.6之前的主从change:

mysql> change master to master_host='127.0.0.1',master_user='rep',master_password='rep',master_log_file='mysql-bin3306.000001',master_log_pos=151

报错:

ERROR 1776 (HY000): Parameters MASTER_LOG_FILE, MASTER_LOG_POS, RELAY_LOG_FILE and RELAY_LOG_POS cannot be set when MASTER_AUTO_POSITION is active.

当使用 MASTER_AUTO_POSITION 参数的时候,MASTER_LOG_FILE,MASTER_LOG_POS参数不能使用。

使用5.6之后的主从change:

mysql> change master to master_host='127.0.0.1',master_user='rep',master_password='rep',master_port=3306,master_auto_position=1;

在执行上面的命令的时候会报错2个warnings,主要的原因是复制账号安全的问题。

从总体上看来,由于要支持GTID,所以不需要手工确定主服务器的MASTER_LOG_FILE及MASTER_LOG_POS。要是不需要GTID则需要指定FILE和POS。在2个从上执行上面命令,到此主从环境搭建完成。GTID的主从完成之后可以通过show processlist查看:

mysql> show processlist\G;*************************** 1. row ***************************           Id: 38         User: rep         Host: localhost:52321           db: NULL      Command: Binlog Dump GTID   #通过GTID复制         Time: 48        State: Master has sent all binlog to slave; waiting for binlog to be updated         Info: NULL    Rows_sent: 0Rows_examined: 0

2) 测试复制的故障转移

server1(3306)挂了,服务器起不来了。需要把其中的一个从设置为主,另一个设置为其的从库:

server2(3307):

Master_Log_File: mysql-bin3306.000002          Read_Master_Log_Pos: 4156773          Exec_Master_Log_Pos: 4156773

server3(3308):

Master_Log_File: mysql-bin3306.000001          Read_Master_Log_Pos: 83795320          Exec_Master_Log_Pos: 83795320

相比之下server2完成的事务要比server3更接近或则等于server1,现在需要把server3设置为server2的从库。

在MySQL5.6之前,这里的计算会很麻烦,要计算之前主库的log_pos和当前要设置成主库的log_pos,很有可能出错。所以出现了一些高可用性的工具如MHA,MMM等解决问题。

在MySQL5.6之后,很简单的解决了这个难题。因为同一事务的GTID在所有节点上的值一致,那么根据server3当前停止点的GTID就能定位到server2上的GTID,所以直接在server3上执行change即可:

mysql> stop slave;Query OK, 0 rows affected (0.02 sec)#千万不要执行 reset master,否则会从最先的GTID上开始执行。mysql> change master to master_host='127.0.0.1',master_user='rep',master_password='rep',master_port=3307,master_auto_position=1; #指定到另一个比较接近主的从上。Query OK, 0 rows affected, 2 warnings (0.02 sec)mysql> start slave;  #成功的切换到新主Query OK, 0 rows affected (0.03 sec)

主从结构已经变更,server2是Master,server3是Slave。因为不需要计算pos的值,所以通过GTID很简单的解决了这个问题

3) 跳过复制错误:gtid_next、gtid_purged

 从服务器跳过一个错误的事务

mysql> show slave status\G;*************************** 1. row ***************************               Slave_IO_State: Waiting for master to send event                  Master_Host: 127.0.0.1                  Master_User: rep                  Master_Port: 3306                Connect_Retry: 60              Master_Log_File: mysql-bin3306.000001          Read_Master_Log_Pos: 38260944               Relay_Log_File: mysqld-relay-bin3307.000002                Relay_Log_Pos: 369        Relay_Master_Log_File: mysql-bin3306.000001             Slave_IO_Running: Yes            Slave_SQL_Running: No              Replicate_Do_DB:           Replicate_Ignore_DB:            Replicate_Do_Table:        Replicate_Ignore_Table:       Replicate_Wild_Do_Table:   Replicate_Wild_Ignore_Table:                    Last_Errno: 1008                   Last_Error: Error 'Can't drop database 'mablevi'; database doesn't exist' on query. Default database: 'mablevi'. Query: 'drop database mablevi'                 Skip_Counter: 0          Exec_Master_Log_Pos: 151              Relay_Log_Space: 38261371              Until_Condition: None               Until_Log_File:                 Until_Log_Pos: 0           Master_SSL_Allowed: No           Master_SSL_CA_File:            Master_SSL_CA_Path:               Master_SSL_Cert:             Master_SSL_Cipher:                Master_SSL_Key:         Seconds_Behind_Master: NULLMaster_SSL_Verify_Server_Cert: No                Last_IO_Errno: 0                Last_IO_Error:                Last_SQL_Errno: 1008               Last_SQL_Error: Error 'Can't drop database 'mablevi'; database doesn't exist' on query. Default database: 'mablevi'. Query: 'drop database mablevi'  Replicate_Ignore_Server_Ids:              Master_Server_Id: 1                  Master_UUID: 4e659069-3cd8-11e5-9a49-001c4270714e             Master_Info_File: mysql.slave_master_info                    SQL_Delay: 0  #通过在change的时候指定,如:change master to master_delay=600,延迟10分钟同步。          SQL_Remaining_Delay: NULL      Slave_SQL_Running_State:            Master_Retry_Count: 86400                  Master_Bind:       Last_IO_Error_Timestamp:      Last_SQL_Error_Timestamp: 150810 23:38:39               Master_SSL_Crl:            Master_SSL_Crlpath:            Retrieved_Gtid_Set: 4e659069-3cd8-11e5-9a49-001c4270714e:1-48            Executed_Gtid_Set:                 Auto_Position: 1

在MySQL5.6之前,只需要执行:

mysql> set global sql_slave_skip_counter=1;

跳过一个错误的事务,就可以继续进行复制了。但在MySQL5.6之后则不行:

mysql> set global sql_slave_skip_counter=1;ERROR 1858 (HY000): sql_slave_skip_counter can not be set when the server is running with @@GLOBAL.GTID_MODE = ON. Instead, for each transaction that you want to skip, generate an empty transaction with the same GTID as the transaction

分析:因为是通过GTID来进行复制的,也需要跳过这个事务从而继续复制,这个事务可以到主上的binlog里面查看:因为不知道找哪个GTID上出错,所以也不知道如何跳过哪个GTID。但在show slave status里的信息里可以找到在执行Master里的POS:151

Exec_Master_Log_Pos: 151

的时候报错,所以通过mysqlbinlog找到了GTID:

# at 151#150810 22:57:45 server id 1  end_log_pos 199 CRC32 0x5e14d88f     GTID [commit=yes]SET @@SESSION.GTID_NEXT= '4e659069-3cd8-11e5-9a49-001c4270714e:1'/*!*/;

找到这个GTID之后执行:必须按照下面顺序执行

mysql> stop slave;Query OK, 0 rows affected (0.01 sec)mysql> set session gtid_next='4e659069-3cd8-11e5-9a49-001c4270714e:1';     #在session里设置gtid_next,即跳过这个GTIDQuery OK, 0 rows affected (0.01 sec)mysql> begin;      #开启一个事务Query OK, 0 rows affected (0.00 sec)mysql> commit;Query OK, 0 rows affected (0.01 sec)mysql> SET SESSION GTID_NEXT = AUTOMATIC;   #把gtid_next设置回来Query OK, 0 rows affected (0.00 sec)mysql> start slave;  #开启复制Query OK, 0 rows affected (0.01 sec)

查看复制状态:

mysql> show slave status\G;*************************** 1. row ***************************               Slave_IO_State: Waiting for master to send event                  Master_Host: 127.0.0.1                  Master_User: rep                  Master_Port: 3306                Connect_Retry: 60              Master_Log_File: mysql-bin3306.000001          Read_Master_Log_Pos: 38260944               Relay_Log_File: mysqld-relay-bin3307.000003                Relay_Log_Pos: 716        Relay_Master_Log_File: mysql-bin3306.000001             Slave_IO_Running: Yes            Slave_SQL_Running: Yes              Replicate_Do_DB:           Replicate_Ignore_DB:            Replicate_Do_Table:        Replicate_Ignore_Table:       Replicate_Wild_Do_Table:   Replicate_Wild_Ignore_Table:                    Last_Errno: 0                   Last_Error:                  Skip_Counter: 0          Exec_Master_Log_Pos: 38260944              Relay_Log_Space: 38261936              Until_Condition: None               Until_Log_File:                 Until_Log_Pos: 0           Master_SSL_Allowed: No           Master_SSL_CA_File:            Master_SSL_CA_Path:               Master_SSL_Cert:             Master_SSL_Cipher:                Master_SSL_Key:         Seconds_Behind_Master: 0Master_SSL_Verify_Server_Cert: No                Last_IO_Errno: 0                Last_IO_Error:                Last_SQL_Errno: 0               Last_SQL_Error:   Replicate_Ignore_Server_Ids:              Master_Server_Id: 1                  Master_UUID: 4e659069-3cd8-11e5-9a49-001c4270714e             Master_Info_File: mysql.slave_master_info                    SQL_Delay: 0                             #延迟同步          SQL_Remaining_Delay: NULL      Slave_SQL_Running_State: Slave has read all relay log; waiting for the slave I/O thread to update it           Master_Retry_Count: 86400                  Master_Bind:       Last_IO_Error_Timestamp:      Last_SQL_Error_Timestamp:                Master_SSL_Crl:            Master_SSL_Crlpath:            Retrieved_Gtid_Set: 4e659069-3cd8-11e5-9a49-001c4270714e:1-48            Executed_Gtid_Set: 4e659069-3cd8-11e5-9a49-001c4270714e:1-48                Auto_Position: 1

在此成功跳过了错误,同步继续。可以通过这个办法来处理复制失败的问题,这里还有个例子(从服务器中跳过一条语句/事务):

mysql > stop slave;Query OK, 0 ROWS affected (0.05 sec)mysql > CHANGE master TO MASTER_DELAY=600;Query OK, 0 ROWS affected (0.27 sec)mysql > START slave;Query OK, 0 ROWS affected, 1 warning (0.06 sec)master 原本是正常的, 然后意外地执行了 truncate table:mysql > INSERT INTO t SET title='c';Query OK, 1 ROW affected (0.03 sec)mysql > INSERT INTO t SET title='d';Query OK, 1 ROW affected (0.05 sec)mysql > SHOW master STATUS \G*************************** 1. ROW ***************************             File: black-bin.000001         POSITION: 2817     Binlog_Do_DB:  Binlog_Ignore_DB: Executed_Gtid_Set: 0c005b76-d3c7-11e2-a27d-274c063b18c4:1-101 ROW IN SET (0.00 sec)mysql > TRUNCATE TABLE t;Query OK, 0 ROWS affected (0.15 sec)mysql > SHOW master STATUS \G*************************** 1. ROW ***************************             File: black-bin.000001         POSITION: 2948     Binlog_Do_DB:  Binlog_Ignore_DB: Executed_Gtid_Set: 0c005b76-d3c7-11e2-a27d-274c063b18c4:1-111 ROW IN SET (0.00 sec)slave有延迟, 虽然已经获取到了gtid及对应的events, 但是并未执行:mysql > SHOW slave STATUS \G*************************** 1. ROW ***************************               Slave_IO_State: Waiting FOR master TO send event..............                    SQL_Delay: 600          SQL_Remaining_Delay: 565      Slave_SQL_Running_State: Waiting until MASTER_DELAY seconds after master executed event           Master_Retry_Count: 86400                  Master_Bind:       Last_IO_Error_Timestamp:      Last_SQL_Error_Timestamp:                Master_SSL_Crl:            Master_SSL_Crlpath:            Retrieved_Gtid_Set: 0c005b76-d3c7-11e2-a27d-274c063b18c4:9-11            Executed_Gtid_Set: 0c005b76-d3c7-11e2-a27d-274c063b18c4:1-8                Auto_Position: 11 ROW IN SET (0.00 sec)要想办法在slave中跳过 GTID:0c005b76-d3c7-11e2-a27d-274c063b18c4:11, 也就是那条truncate table语句 。办法就是设置GTID_NEXT,然后提交一个空的事务。mysql > stop slave;Query OK, 0 ROWS affected (0.03 sec)mysql > SET session gtid_next='0c005b76-d3c7-11e2-a27d-274c063b18c4:11';Query OK, 0 ROWS affected (0.00 sec)mysql > BEGIN; commit;Query OK, 0 ROWS affected (0.00 sec)Query OK, 0 ROWS affected (0.01 sec)mysql >SET SESSION GTID_NEXT = AUTOMATIC;Query OK, 0 ROWS affected (0.00 sec)mysql > START slave;Query OK, 0 ROWS affected, 1 warning (0.07 sec)查看复制状态mysql > SHOW slave STATUS \G*************************** 1. ROW ***************************               Slave_IO_State: Waiting FOR master TO send event..............            Retrieved_Gtid_Set: 0c005b76-d3c7-11e2-a27d-274c063b18c4:9-11            Executed_Gtid_Set: 0c005b76-d3c7-11e2-a27d-274c063b18c4:1-11                Auto_Position: 11 ROW IN SET (0.00 sec)mysql > SELECT * FROM t;+----+-------+| id | title |+----+-------+|  1 | a     ||  2 | b     ||  3 | c     ||  4 | d     |+----+-------+4 ROWS IN SET (0.00 sec)成功跳过 truncate table, 当然此时主从的数据已经不一致了。

注意:通过GTID的复制都是没有指定MASTER_LOG_FILE和MASTER_LOG_POS的,所以通过GTID复制都是从最先开始的事务开始,除非在自己的binlog里面有执行过之前的记录,才会继续后面的执行。

 要是事务日志被purge,再进行change

mysql> show master logs;   +----------------------+-----------+| Log_name             | File_size |+----------------------+-----------+| mysql-bin3306.000001 |  38260944 |+----------------------+-----------+1 row in set (0.00 sec)mysql> flush logs;Query OK, 0 rows affected (0.03 sec)mysql> show tables;+---------------+| Tables_in_mmm |+---------------+| patent_family || t1            || t2            |+---------------+3 rows in set (0.01 sec)mysql> create table t3(id int)engine = tokudb;Query OK, 0 rows affected (0.02 sec)mysql> insert into t3 values(3),(4);Query OK, 2 rows affected (0.05 sec)Records: 2  Duplicates: 0  Warnings: 0mysql> flush logs;Query OK, 0 rows affected (0.02 sec)mysql> create table ttt(id int)engine = tokudb;Query OK, 0 rows affected (0.02 sec)mysql> insert into ttt values(1),(2),(3),(4),(5);Query OK, 5 rows affected (0.03 sec)Records: 5  Duplicates: 0  Warnings: 0mysql> show master logs;+----------------------+-----------+| Log_name             | File_size |+----------------------+-----------+| mysql-bin3306.000001 |  38260995 || mysql-bin3306.000002 |       656 || mysql-bin3306.000003 |       619 |+----------------------+-----------+3 rows in set (0.00 sec)mysql> purge binary logs to 'mysql-bin3306.000003';  #日志被purgeQuery OK, 0 rows affected (0.02 sec)mysql> show master logs;   #日志被purge之后等下的binlog +----------------------+-----------+| Log_name             | File_size |+----------------------+-----------+| mysql-bin3306.000003 |       619 |+----------------------+--------3308登陆之后执行:mysql> change master to master_host='127.0.0.1',master_user='rep',master_password='rep',master_port=3306,master_auto_position=1;Query OK, 0 rows affected, 2 warnings (0.04 sec)mysql> start slave;Query OK, 0 rows affected (0.02 sec)mysql> show slave status\G;*************************** 1. row ***************************               Slave_IO_State:                   Master_Host: 127.0.0.1                  Master_User: rep                  Master_Port: 3306                Connect_Retry: 60              Master_Log_File:           Read_Master_Log_Pos: 4               Relay_Log_File: mysqld-relay-bin3308.000001                Relay_Log_Pos: 4        Relay_Master_Log_File:              Slave_IO_Running: No            Slave_SQL_Running: Yes              Replicate_Do_DB:           Replicate_Ignore_DB:            Replicate_Do_Table:        Replicate_Ignore_Table:       Replicate_Wild_Do_Table:   Replicate_Wild_Ignore_Table:                    Last_Errno: 0                   Last_Error:                  Skip_Counter: 0          Exec_Master_Log_Pos: 0              Relay_Log_Space: 151              Until_Condition: None               Until_Log_File:                 Until_Log_Pos: 0           Master_SSL_Allowed: No           Master_SSL_CA_File:            Master_SSL_CA_Path:               Master_SSL_Cert:             Master_SSL_Cipher:                Master_SSL_Key:         Seconds_Behind_Master: 0Master_SSL_Verify_Server_Cert: No                Last_IO_Errno: 1236                Last_IO_Error: Got fatal error 1236 from master when reading data from binary log: 'The slave is connecting using CHANGE MASTER TO MASTER_AUTO_POSITION = 1, but the master has purged binary logs containing GTIDs that the slave requires.'               Last_SQL_Errno: 0               Last_SQL_Error:   Replicate_Ignore_Server_Ids:              Master_Server_Id: 1                  Master_UUID: 4e659069-3cd8-11e5-9a49-001c4270714e             Master_Info_File: /var/lib/mysql3/master.info                    SQL_Delay: 0          SQL_Remaining_Delay: NULL      Slave_SQL_Running_State: Slave has read all relay log; waiting for the slave I/O thread to update it           Master_Retry_Count: 86400                  Master_Bind:       Last_IO_Error_Timestamp: 150811 00:02:50     Last_SQL_Error_Timestamp:                Master_SSL_Crl:            Master_SSL_Crlpath:            Retrieved_Gtid_Set:             Executed_Gtid_Set:                 Auto_Position: 1

报错:

Last_IO_Errno: 1236                Last_IO_Error: Got fatal error 1236 from master when reading data from binary log: 'The slave is connecting using CHANGE MASTER TO MASTER_AUTO_POSITION = 1, but the master has purged binary logs containing GTIDs that the slave requires.'

这里需要解决的是:Slave如何跳过purge的部分,而不是在最先开始的事务执行。

在主上执行,查看被purge的GTID:mysql> show global variables like 'gtid_purged';+---------------+-------------------------------------------+| Variable_name | Value                                     |+---------------+-------------------------------------------+| gtid_purged   | 4e659069-3cd8-11e5-9a49-001c4270714e:1-50 |+---------------+-------------------------------------------+1 row in set (0.00 sec)在从上执行,跳过这个GTID:mysql> stop slave;Query OK, 0 rows affected (0.00 sec)mysql> set global gtid_purged = '4e659069-3cd8-11e5-9a49-001c4270714e:1-50';Query OK, 0 rows affected (0.02 sec)mysql> reset master;Query OK, 0 rows affected (0.04 sec)mysql> start slave;Query OK, 0 rows affected (0.01 sec)要是出现:ERROR 1840 (HY000): @@GLOBAL.GTID_PURGED can only be set when @@GLOBAL.GTID_EXECUTED is empty.则需要执行:reset master;

到这从的同步就正常了。 

mysql> show slave status\G;*************************** 1. row ***************************               Slave_IO_State: Waiting for master to send event                  Master_Host: 127.0.0.1                  Master_User: rep                  Master_Port: 3306                Connect_Retry: 60              Master_Log_File: mysql-bin3306.000003          Read_Master_Log_Pos: 619               Relay_Log_File: mysqld-relay-bin3308.000002                Relay_Log_Pos: 797        Relay_Master_Log_File: mysql-bin3306.000003             Slave_IO_Running: Yes            Slave_SQL_Running: Yes              Replicate_Do_DB:           Replicate_Ignore_DB:            Replicate_Do_Table:        Replicate_Ignore_Table:       Replicate_Wild_Do_Table:   Replicate_Wild_Ignore_Table:                    Last_Errno: 0                   Last_Error:                  Skip_Counter: 0          Exec_Master_Log_Pos: 619              Relay_Log_Space: 1006              Until_Condition: None               Until_Log_File:                 Until_Log_Pos: 0           Master_SSL_Allowed: No           Master_SSL_CA_File:            Master_SSL_CA_Path:               Master_SSL_Cert:             Master_SSL_Cipher:                Master_SSL_Key:         Seconds_Behind_Master: 0Master_SSL_Verify_Server_Cert: No                Last_IO_Errno: 0                Last_IO_Error:                Last_SQL_Errno: 0               Last_SQL_Error:   Replicate_Ignore_Server_Ids:              Master_Server_Id: 1                  Master_UUID: 4e659069-3cd8-11e5-9a49-001c4270714e             Master_Info_File: /var/lib/mysql3/master.info                    SQL_Delay: 0          SQL_Remaining_Delay: NULL      Slave_SQL_Running_State: Slave has read all relay log; waiting for the slave I/O thread to update it           Master_Retry_Count: 86400                  Master_Bind:       Last_IO_Error_Timestamp:      Last_SQL_Error_Timestamp:                Master_SSL_Crl:            Master_SSL_Crlpath:            Retrieved_Gtid_Set: 4e659069-3cd8-11e5-9a49-001c4270714e:51-52            Executed_Gtid_Set: 4e659069-3cd8-11e5-9a49-001c4270714e:1-52                Auto_Position: 11 row in set (0.00 sec)mysql> use mmmDatabase changedmysql> show tables;+---------------+| Tables_in_mmm |+---------------+| ttt           |+---------------+1 row in set (0.00 sec)

③ 通过另一个从库恢复从库数据

比如一台从库误操作,数据丢失了,可以通过另一个从库来进行恢复:

slave2(3308):mysql> use mmmDatabase changedmysql> show tables;+---------------+| Tables_in_mmm |+---------------+| patent_family || t             || tt            |+---------------+3 rows in set (0.00 sec)mysql> truncate table tt;  #误操作,把记录删除了Query OK, 0 rows affected (0.02 sec)mysql> show slave status\G;*************************** 1. row ***************************               Slave_IO_State: Waiting for master to send event                  Master_Host: 127.0.0.1                  Master_User: rep                  Master_Port: 3306                Connect_Retry: 60              Master_Log_File: mysql-bin3306.000001          Read_Master_Log_Pos: 38260553               Relay_Log_File: mysqld-relay-bin3308.000002                Relay_Log_Pos: 38260771        Relay_Master_Log_File: mysql-bin3306.000001             Slave_IO_Running: Yes            Slave_SQL_Running: Yes              Replicate_Do_DB:           Replicate_Ignore_DB:            Replicate_Do_Table:        Replicate_Ignore_Table:       Replicate_Wild_Do_Table:   Replicate_Wild_Ignore_Table:                    Last_Errno: 0                   Last_Error:                  Skip_Counter: 0          Exec_Master_Log_Pos: 38260553              Relay_Log_Space: 38260980              Until_Condition: None               Until_Log_File:                 Until_Log_Pos: 0           Master_SSL_Allowed: No           Master_SSL_CA_File:            Master_SSL_CA_Path:               Master_SSL_Cert:             Master_SSL_Cipher:                Master_SSL_Key:         Seconds_Behind_Master: 0Master_SSL_Verify_Server_Cert: No                Last_IO_Errno: 0                Last_IO_Error:                Last_SQL_Errno: 0               Last_SQL_Error:   Replicate_Ignore_Server_Ids:              Master_Server_Id: 1                  Master_UUID: 4e659069-3cd8-11e5-9a49-001c4270714e             Master_Info_File: /var/lib/mysql3/master.info                    SQL_Delay: 0  #延迟同步          SQL_Remaining_Delay: NULL      Slave_SQL_Running_State: Slave has read all relay log; waiting for the slave I/O thread to update it           Master_Retry_Count: 86400                  Master_Bind:       Last_IO_Error_Timestamp:      Last_SQL_Error_Timestamp:                Master_SSL_Crl:            Master_SSL_Crlpath:            Retrieved_Gtid_Set: 4e659069-3cd8-11e5-9a49-001c4270714e:1-46            Executed_Gtid_Set: 081ccacf-3ce4-11e5-9a95-001c4270714e:1,  #多出了一个GTID(本身实例执行的事务)4e659069-3cd8-11e5-9a49-001c4270714e:1-46                Auto_Position: 1数据被误删除之后,最好停止复制:stop slave;恢复数据从slave1(3307)上备份数据,并还原到slave2(3308)中。备份:mysqldump  -uzjy -p123456 -h127.0.0.1 -P3307 --default-character-set=utf8 --set-gtid-purged=ON -B mmm > mmm1.sql在还原到slave2的时候需要在slave2上执行:reset master; 不然会报错:ERROR 1840 (HY000) at line 24: @@GLOBAL.GTID_PURGED can only be set when @@GLOBAL.GTID_EXECUTED is empty.还原:root@zjy:~# mysql -uzjy -p123456 -h127.0.0.1 -P3308 --default-character-set=utf8 < mmm.sql 开启同步:mysql> start slave;Query OK, 0 rows affected, 1 warning (0.03 sec)这时候你会发现误删除的数据已经被还原,并且复制也正常。因为根据GTID的原理,通过slave1的备份直接可以和Master进行同步。

这里备份注意的一点是:在备份开启GTID的实例里,需要指定 --set-gtid-purged参数,否则会报warning:

Warning: A partial dump from a server that has GTIDs will by default include the GTIDs of all transactions, even those that changed suppressed parts of the database. If you don't want to restore GTIDs, pass --set-gtid-purged=OFF. To make a complete dump, pass --all-databases --triggers --routines --events

备份文件里面会出现:

SET @@GLOBAL.GTID_PURGED='4e659069-3cd8-11e5-9a49-001c4270714e:1-483';

还原的时候会要求先在实例上reset master,不然会报错:

Warning: Using a password on the command line interface can be insecure.ERROR 1840 (HY000) at line 24: @@GLOBAL.GTID_PURGED can only be set when @@GLOBAL.GTID_EXECUTED is empty.

指定--set-gtid-purged=ON参数,出现GTID_PURGED直接还原的时候执行,从库不需要其他操作就可以直接change到主。

五、运维场景中GTID的运用

======  使用GTID搭建Replication  ======

-  从0开始搭建

step 1: 让所有server处于同一个点mysql> SET @@global.read_only = ON;step 2: 关闭所有MySQL# mysqladmin -uusername -p shutdownstep 3: 重启所有MySQL,并开启GTID# mysqld --gtid-mode=ON --log-bin --enforce-gtid-consistency &当然,在my.cnf文件中配置好最佳!step 4: 在从数据库上通过change master语句进行复制mysql> change master to master_host=host,master_port=port,master_user=user,master_password=password,master_auto_position=1;mysql> start slave;step 5: 让master可读可写mysql> SET @@global.read_only = OFF;

-  从备份中恢复&搭建

step 1: 备份mysqldump  xx;      #获取并且记录gtid_purged值or冷备份;              #获取并且记录gtid_executed值,这个就相当于mysqldump中得到的gtid_purgedstep 2: 在新服务器上reset master,导入备份mysql> reset master;         #清空gtid信息导入备份;                     #如果是逻辑导入,请设置sql_log_bin=offmysql> set global gtid_purged=xx;step 3: 在从数据库上通过change master语句进行复制mysql> change master to master_host=host,master_port=port,master_user=user,master_password=password,master_auto_position=1;mysql> start slave;

======  如何从classic replication 升级成 GTID replication  ====== 

-  offline 方式升级 (线下升级)

offline 的方式升级最简单:- 全部关闭mysql- 在my.cnf文件中配置好GTID- 重启mysql- 登录mysql,执行"change master to MASTER_AUTO_POSITION=1;"

-  online 方式升级 (线上升级)

先介绍几个重要GTID_MODE的参数:GTID_MODE = OFF不产生Normal_GTID,只接受来自master的ANONYMOUS_GTIDGTID_MODE = OFF_PERMISSIVE不产生Normal_GTID,可以接受来自master的ANONYMOUS_GTID & Normal_GTIDGTID_MODE = ON_PERMISSIVE产生Normal_GTID,可以接受来自master的ANONYMOUS_GTID & Normal_GTIDGTID_MODE = ON产生Normal_GTID,只接受来自master的Normal_GTID归纳总结:1)当master产生Normal_GTID的时候,如果slave的gtid_mode(OFF)不能接受Normal_GTID,那么就会报错2)当master产生ANONYMOUS_GTID的时候,如果slave的gtid_mode(ON)不能接受ANONYMOUS_GTID,那么就会报错3)设置auto_position的条件: 当master的gtid_mode=ON时,slave可以为OFF_PERMISSIVE,ON_PERMISSIVE,ON。   除此之外,都不能设置auto_position = on============================================下面开始说下如何online 升级为GTID模式?step 1: 每台server执行检查错误日志,直到没有错误出现,才能进行下一步mysql> SET @@GLOBAL.ENFORCE_GTID_CONSISTENCY = WARN;step 2: 每台server执行mysql> SET @@GLOBAL.ENFORCE_GTID_CONSISTENCY = ON;step 3: 每台server执行不用关心一组复制集群的server的执行顺序,只需要保证每个Server都执行了,才能进行下一步mysql> SET @@GLOBAL.GTID_MODE = OFF_PERMISSIVE;step 4: 每台server执行不用关心一组复制集群的server的执行顺序,只需要保证每个Server都执行了,才能进行下一步mysql> SET @@GLOBAL.GTID_MODE = ON_PERMISSIVE;step 5: 在每台server上执行,如果ONGOING_ANONYMOUS_TRANSACTION_COUNT=0就可以不需要一直为0,只要出现过0一次,就okmysql> SHOW STATUS LIKE 'ONGOING_ANONYMOUS_TRANSACTION_COUNT';step 6: 确保所有anonymous事务传递到slave上了#master上执行mysql> SHOW MASTER STATUS;#每个slave上执行mysql> SELECT MASTER_POS_WAIT(file, position);或者,等一段时间,只要不是大的延迟,一般都没问题step 7: 每台Server上执行mysql> SET @@GLOBAL.GTID_MODE = ON;step 8: 在每台server上将my.cnf中添加好gtid配置gtid_mode=onenforce-gtid-consistency=1log_bin=mysql-binlog-slave-updates=1step 9: 在从机上通过change master语句进行复制mysql> STOP SLAVE;mysql> CHANGE MASTER TO MASTER_AUTO_POSITION = 1;mysql> START SLAVE;

 ======  GTID failover (故障转移)  ======

-  MySQL crash (Mysql 崩溃) 

配置好loss-less semi-sync replication,可以更可靠的保证数据零丢失!下面说的都是mysql crash 后,起不来的情况:

binlog 在master还有日志没有传递到slave (解决措施如下)

1. 选取最新的slave,change master to maseter_auto_position同步好2. mysqlbinlog 将没传递过来的binlog在新master上replay3. 打开新master的surper_read_only=off;

binlog 已经传递到slave  (解决措施如下)

1. 选取最新的slave,change master to maseter_auto_position同步好2. 打开新master的surper_read_only=off;

-  OS crash  (操作系统崩溃)

1. 选取最新的slave,change master to maseter_auto_position同步好2. 打开新master的surper_read_only=off;

以上操作,在传统模式复制下,需要通过MHA来实现,但MHA还是比较复杂。现在有了GTID模式的情况下,实现起来就非常简单,非常方便了。

======  GTID 运维和错误处理  ======

使用GTID后,对原来传统的运维有不同之处了,需要调整过来;使用Row模式且复制配置正确的情况下,基本上很少发现有复制出错的情况;slave 设置 "super_read_only=on"

-  错误场景: Errant transaction

出现这种问题基本有两种情况-  复制参数没有配置正确,当slave crash后,会出现重复键问题;-  DBA操作不正确,不小心在slave上执行了事务;对于第一个重复键问题的解决措施:1) 传统模式 (需要skip transation)SQL> SET GLOBAL SQL_SLAVE_SKIP_COUNTER=1;SQL> START SLAVE;2) GTID模式SQL> SET GTID_NEXT='b9b4712a-df64-11e3-b391-60672090eb04:7';   --设置需要跳过的gtid eventSQL> BEGIN;COMMIT;SQL> SET GTID_NEXT='AUTOMATIC';SQL> START SLAVE;对于第二种不小心多执行了事务这种情况就比较难了,这样已经导致了数据不一致,大多数情况,建议slave重做如何避免?  则需要在slave上设置 "super_read_only=on"

-  特别注意: 当发生inject empty transction后,有可能会丢失事务

这里说下inject empty transction的隐患:-  当slave上inject empty transction,说明有一个master的事务被忽略了(这里假设是 $uuid:100)-  事务丢失一:如果此时此刻master挂了,这个slave被选举为新master,那么其他的slave如果还没有执行到$uuid:100,就会丢失掉$uuid:100这个事务。-  事务丢失二:如果从备份中重新搭建一个slave,需要重新执行之前的所有事务,而此时,master挂了, 又回到了事务丢失一的场景。

-  如何重置gtid_executed,gtid_purged

设置gtid_executedmysql> reset master     #目前只能这么操作设置gtid_purged- 当gtid_executed 非空的时候,不能设置gtid_purged- 当gtid_executed 为空的时候(即刚搭建好mysql), 可以直接SET @@GLOBAL.GTID_PURGED='0ad6eae9-2d66-11e6-864f-ecf4bbf1f42c:1-3';

-  如果auto.cnf 被删掉了,对于GTID的复制会有什么影响?

如果被删掉,重启后,server-uuid 会变

-  手动设置"set @@gtid_purged = xx:yy", mysql会去主动修改binlog的头么?

不会去主动修改!

-  GTID和复制过滤规则之间如何协同工作?MySQL,test还能愉快的过滤掉吗?

GTID和复制过滤规则之间如何协同工作?MySQL,test还能愉快的过滤掉吗?

六、Mysql中基于GTID模式的主从复制环境部署记录

                                                                     mysql5.6+GTID主从复制                                                                 

 

                                                                     mysql5.7+GTID主从复制                                                                 

 

转载地址:http://sgsmx.baihongyu.com/

你可能感兴趣的文章
Redisbook学习笔记(2)内存映射数据结构(1)压缩列表
查看>>
oracle 11g dataguard维护注意事项
查看>>
ORACLE系列脚本1:救命的应急会话处理脚本
查看>>
计算/etc/目录所有*.conf配置文件所占总空间大小
查看>>
python——ip加入nginx黑名单
查看>>
自动化技术初出茅庐,ansible使用解析。
查看>>
Microsoft Azure Site Recovery (2) 配置虚拟机保护
查看>>
Apache CouchDB安装及入门
查看>>
企业实际应用之同步远程yum源到本地
查看>>
一次核心线上磁盘差点爆满坑人事件...
查看>>
Oracle 添加RAC数据库集群节点(二)
查看>>
AIX 5 ftp 文件传输
查看>>
企业Java应用服务器之JBoss7.1与Apahce整合
查看>>
oculus,一种未来的交流方式
查看>>
选择优异Linux培训机构的几点建议
查看>>
Rsync镜像同步工具的安装配置
查看>>
python脚本判断一个数是否为素数的几种方法
查看>>
血性的青,尿性的春——《中国合伙人》影评
查看>>
关于python调用zabbix api接口的自动化实例 [结合saltstack]
查看>>
Exchange更改默认的OST、PST路径
查看>>