【MySQL】binlog缓存的问题和性能

之前在没有备库的情况下，遇到过more than 'max_binlog_cache_size' bytes of storage 的错误，今天在主备复制的时候又遇到了这个问题

Last_SQL_Errno: 1197

Last_SQL_Error: Worker 14 failed executing transaction '' at master log mysql-bin.050101, end_log_pos 2669492980; Could not execute Delete_rows_v1 event on table time_dispatcher_0029.ttd_task_1889; Multi-statement transaction required more than 'max_binlog_cache_size' bytes of storage; increase this mysqld variable and try again, Error_code: 1197; handler error HA_ERR_RBR_LOGGING_FAILED; the event's master log mysql-bin.050101, end_log_pos 2669492980

slave

root@(none) 10:11:38>show variables like '%binlog_%size%';

+----------------------------+----------------------+

| Variable_name              | Value                |

+----------------------------+----------------------+

| binlog_cache_size          | 32768                |

| binlog_stmt_cache_size     | 32768                |

| max_binlog_cache_size      | 2147483648           |

| max_binlog_size            | 524288000            |

| max_binlog_stmt_cache_size | 18446744073709547520 |

+----------------------------+----------------------+

root@(none) 09:51:00>show status like 'binlog_%';

+----------------------------+-----------+

| Variable_name              | Value     |

+----------------------------+-----------+

| Binlog_cache_disk_use      | 86332     |

| Binlog_cache_use           | 320562298 |

| Binlog_stmt_cache_disk_use | 0         |

| Binlog_stmt_cache_use      | 145       |

+----------------------------+-----------+

master

root@(none) 10:07:17>show variables like '%binlog_cache_size%';

+-----------------------+-------------+

| Variable_name         | Value       |

+-----------------------+-------------+

| binlog_cache_size     | 32768       |

| max_binlog_cache_size | 10737418240 |

+-----------------------+-------------+

主备设置不一致导致主库写binlog成功，备库在恢复relog的时候同样记录binlog，但是主备cache大小设置不同，所以导致了上边的问题。

主备参数的一致性很重要！！！！

修复

root@(none) 10:08:49>stop slave;

Query OK, 0 rows affected, 1 warning (0.02 sec)

root@(none) 10:08:32>set global max_binlog_cache_size=10737418240;

Query OK, 0 rows affected (0.00 sec)

root@(none) 10:08:49>start slave;

Query OK, 0 rows affected, 1 warning (0.02 sec)

max_binlog_cache_size

如果事务需要内存超过此字节数，服务器生成如下错误ERROR 1197 (HY000): Multi-statement transaction required more than 'max_binlog_cache_size' bytes of storage;max_binlog_cache_size最低值是4096，最大可能值为16EB（艾字节）。推荐的最大值为4GB ;因为目前的MySQL当二进制日志位置大于4GB时并不生效。

Note:

Prior to MySQL 5.6.7, 64-bit Windows platforms truncated the stored value for this variable to 4G, even when it was set to a greater value (Bug #13961678).

在MySQL 5.6 ，会话对于max_binlog_cache_size的感知依赖于binlog_cache_size系统变量;换句话说，改变其值只会影响后续新建会话。

max_binlog_size

如果写二进制日志导致当前日志文件大小超过了这个变量的值时，服务器旋转二进制日志（关闭当前的文件，并打开下一个）。的最小值为4096字节。最大值和默认值是1GB 。

事务是以块为单位写入二进制日志的，因此它不会被拆分在几个二进制日志。如果你有大的交易，你可能会看到比max_binlog_size较大的二进制日志文件。

如果max_relay_log_size为0，max_binlog_size的值会被应用到中继日志。

max_binlog_stmt_cache_size

如果一个事务中的非事务性的语句需要大于这个数量的更多的内存，服务器会产生报错。最低值是4096 ，在32位平台最大和默认值是4GB。在64位平台最大和默认值是416EB（艾字节）。

Note

Prior to MySQL 5.6.7, 64-bit Windows platforms truncated the stored value for this variable to 4G, even when it was set to a greater value (Bug #13961678).

max_binlog_cache_size针对事务语句，max_binlog_stmt_cache_size针对非事务语句，当我们发现Binlog_cache_disk_use或者Binlog_stmt_cache_disk_use比较大时就需要考虑增大cache的大小

事务性语句&非事务性语句

在事务性语句执行过程中，服务器将会进行额外的处理，在服务器执行时多个事务是并行执行的，为了把他们的记录在一起，需要引入事务缓存的概念。在事务完成被提交的时候一同刷新到二进制日志。对于非事务性语句的处理。遵循以下3条规则：

如果非事务性语句被标记为事务性，那么将被写入事务缓冲。
如果没有标记为事务性语句，而且事务缓存中没有，那么直接写入二进制日志。
如果没有标记为事务性语句，但是事务缓存中有，那么写入事务缓冲。

注意如果在一个事务中有非事务性语句，那么将会利用规则2，优先将该影响非事务表语句直接写入二进制日志。

如果一切正常，当事务中执行事务语句（DML）的时候，所以这些语句形成的event都会被记录到缓存里面，等到commit事务以后，这个缓存的数据会立即被刷入磁盘上的binlog文件里面，之后通过slave请求发送到slave，在slave重复执行。

顺便提一下，mysql的binlog里面的事务都是相互独立按顺序排列的。

现在开始假设意外的发生。

正常意外一：事务执行中rollback了。

如果在一个事务中，所有执行的语句都是在innodb表上执行（对于多个事务引擎如tokudb等并用尚未测试），直接执行rollback，会导致mysql直接清除缓存，不会写入任何event记录到binlog。

正常意外二：事务执行中使用了非事务表（myisam），然后rollback了。

在一个事务中，即有事务表，也有非事务表，如果正常执行，则没有任何问题，当如果在非事务表上的修改执行了，复制设置为statement的时候，binlog会把所有执行的event全部记录下来写入日志，包括事务与非事务语句，然后在最后面加上rollback。如果复制格式设置为row，那么所有事务表相关的数据都会被清理掉，而非事务表上的数据会被标记为已提交事务写入binlog。

正常意外三：事务执行顺序如下：事务语句1－》非事务语句2－》save point －》事务语句3 －》 rollback to savepoint －》事务语句4 －》提交

对于上面的情况，statement情况下，所有执行的语句包括savepoint与rollback都会按顺序被记录到binlog。row情况下，非事务语句与事务语句是分别记录到binlog中，非事务执行event会全部被记录，事务执行event会连带savepoint与rollback都记录下来。

正常意外四：事务执行顺序如下：事务语句1-》savepoint－》非事务语句2-》事务语句3-》rollback to savepoint－》事务语句4 －》 commit

同上。

异常意外一：master正常提交了，但是在slave执行失败了。

master执行完成，提交之后，slave接收到relay然后执行，执行期间由于意外原因失败了。这个时候，statement格式下，mysql会重新回到事务begin处重新执行，如果再次失败的话就会报错。row模式下情况类似，区别在于，如果是包含非事务表执行的事务，非事务表上的event不会被重新执行。

参考

Binary Log Options and Variables

max_binlog_stmt_cache_size

mysql复制对事务的处理

mysql二进制日志处理事务与非事务性语句的区别