MySQL后台线程整理总结
本文整理自《MySQL技术内幕 InnoDB存储引擎》
MySQL的服务实现通过后台多个线程、内存池、文件交互来实现对外服务的,不同线程实现不同的资源操作,各个线程相互协助,共同来完成数据库的服务。
以下简单总结MySQL的一些后台线程以及主要作用,以及innodb引擎的变化升级情况。
整体上看,MySQL的后台线程概括如下,分为master thread,IO thread,purge thread,page cleaner thread

这其中,Master Thread是MySQL的最核心的线程,其中实现了多种功能,同时也在不断地改进与优化。
InnoDB 1.2.X之前版本的Master Thread主要工作内容,
如下是伪代码来描述 Master Thread
MasterThread
{ //每1秒一次操作涉及的行为
PerSecondOperation()
{
,刷新redo日志缓冲到磁盘,不管是否提交(总是)
属于master thread中的checkpoint实现
,合并插入缓冲(可能),根据一秒之内发生的IO次数,如果小于5,则执行合并插入缓冲的操作
,最多刷新100个Innodb缓冲池中的脏页到磁盘(可能),
if(buf_get_modified_ratio_pct>buf_max_dirty_pages_pct>buf_get_modified_ratio_pct)
执行刷新100个脏页到磁盘
4. checkpoint
,如果当前没有用户活动,切换到background模式
} //每10秒一次操作涉及的行为
TenSecondOperation()
{
,刷新100个Innodb缓冲池中的脏页到磁盘(可能),
判断过去10秒之内IO操作是否小于200次,如果是,刷新100个脏页到磁盘------>硬编码
,合并最多5个插入缓冲(总是),无条件,总是执行合并最多5个插入缓冲
,日志缓存刷新到磁盘(总是)
,删除无用的undo页(总是),每次最多尝试回收20个页---->硬编码
,刷新100或者10个脏页到磁盘(总是):---->硬编码
脏页比例>%==>刷新100个脏页到磁盘,
脏页比例<%==>刷新10个脏页到磁盘
6. checkpoint
}
//BackgroundOperation线程
BackgroundOperation()
{ ,删除无用的Undo页(总是)
,合并20个插入缓冲(总是)
,跳回到主循环(总是)
,不断刷线100个直到page到磁盘,直到满足(脏页小于参数buf_max_dirty_pages_pct)。
}
}
不难发现,InnoDB 1.2.X之前的版本写死了很多参数,
InnoDB 1.2.X之后版本的Master Thread根据实际情况,灵活地增加了一些配置参数,尤其是与IO有关的innodb_io_capacity参数。
innodb_io_capacity表示物理存储的IO能力,在后台线程与物理存储IO交互的时候,由于不同的存储设备有不同的IO处理能力,
innodb_io_capacity就表示物理存储的IO处理能力的参,默认值是200
通过根据实际存储情况对innodb_io_capacity的配置,可以最大化地提高MySQL服务器的处理性能。
MasterThread
{ ,增加参数innodb_io_capacity,合并插入缓冲=innodb_io_capacity*%;刷新脏页数量=innodb_io_capacity
,buf_max_dirty_pages_pct默认值修改为75%
,innodb_purge_batch_size,回收undo页的配置,默认值20 //每1秒一次操作涉及的行为
PerSecondOperation()
{
,刷新redo日志缓冲到磁盘,不管是否提交(总是) ,合并插入缓冲(可能),根据一秒之内发生的IO次数:
if(过去1秒钟的ios<%innodb_io_capacity)
{
执行合并5%innodb_io_capacity个page的插入缓冲的操作
} ,刷新缓冲池中的脏页到磁盘(可能):
if(buf_get_modified_ratio_pct>buf_max_dirty_pages_pct)
刷新脏页个数:%*innodb_io_capacity
if(buf_get_modified_ratio_pct<buf_max_dirty_pages_pct)
刷新脏页个数:%*innodb_io_capacity
4. checkpoint
5,如果当前没有用户活动,切换到background模式 }
//每10秒一次操作涉及的行为
TenSecondOperation()
{ ,刷新缓冲池中的脏页到磁盘(可能):
if(buf_get_modified_ratio_pct>buf_max_dirty_pages_pct)
刷新脏页个数:%*innodb_io_capacity
if(buf_get_modified_ratio_pct<buf_max_dirty_pages_pct)
刷新脏页个数:%*innodb_io_capacity ,合并插入缓冲(可能),根据过去一秒之内发生的IO次数:
if(ios<%innodb_io_capacity)
{
执行合并5%innodb_io_capacity个page的插入缓冲的操作
} ,日志缓存刷新到磁盘(总是) ,删除无用的undo页(总是)
根据参数:innodb_purge_batch_size 5. checkpoint
} BackgroundOperation()
{
,删除无用的Undo页(总是)
,合并innodb_io_capacity个插入缓冲(总是)
,跳回到主循环(总是)
,不断刷线innodb_io_capacity个page到磁盘,直到满足(脏页小于参数buf_max_dirty_pages_pct)。
} }
1.2.x版本中, 将刷新脏页的操作从master thread 分离到一个单独的 page cleaner thread 进程中. 进一步提高了系统的并发性,独立的page cleaer thread
PageCleanerThread()
{ ,刷新缓冲池中的脏页到磁盘(可能):
if(buf_get_modified_ratio_pct>buf_max_dirty_pages_pct)
刷新脏页个数:%*innodb_io_capacity
if(buf_get_modified_ratio_pct<buf_max_dirty_pages_pct)
刷新脏页个数:%*innodb_io_capacity
}
6. checkpoint
MySQL后台线程整理总结的更多相关文章
- mysql后台线程详解
1.mysql后台线程 mysql后台线程主要用于维持服务器的正常运行和完成用户提交的任务,主要包括:master thread,read thread,write thread,redo log t ...
- MySQL后台线程的清理工作
后台清理工作:脏页刷盘.undo回收 1.page cleaner thread:刷新脏页 2.purge thread:清空undo页.清理“deleted”page 一.innodb_page_c ...
- 常见mysql后台线程
1.IO THREAD MySQL有很多后台线程 其中包括了负责IO的相关线程IO THREAD 1. 参数innodb_write_io_threads 写线程 默认四个,负责数据块的写入 2 ...
- MySQL学习笔记-数据库后台线程
数据库后台线程 默认情况下讲述的InnoDB存储引擎,以后不再重复声明.后台线程有7个--4个IO thread,1个master thread,1个锁监控线程,1个错误监控线程.IO thread的 ...
- InnoDB体系架构(一)后台线程
InnoDB体系架构——后台线程 上一篇已经了解了MySQL数据库的体系结构 这一篇除了介绍InnoDB存储引擎的体系架构外,同时进一步了解InnoDB的后台线程. InnoDB存储引擎是多线程的模型 ...
- MySQL - Show Processlist 整理
MySQL - Show Processlist 整理 原文来源:MySQL 5.5 Reference Manual 部分翻译取自:<MySQL_5.1中文参考手册> 转载请注明原文 ...
- [源码解析] 深度学习分布式训练框架 horovod (6) --- 后台线程架构
[源码解析] 深度学习分布式训练框架 horovod (6) --- 后台线程架构 目录 [源码解析] 深度学习分布式训练框架 horovod (6) --- 后台线程架构 0x00 摘要 0x01 ...
- mysql面试题整理
1 myisam 和 innodb 引擎的区别 innodb 支持事务,外键,myisam 不支持 innodb 支持 mvcc ,myisam 不支持 innodb 支持表锁.行锁,myisam 仅 ...
- C#夯实基础之多线程二:主线程、前台线程与后台线程
我们在<C#夯实基础之多线程一:初识多线程>一文中第二部分中指出,既然windows最终发展出了多线程模型,按理说,我们直接使用一个.NetFramework的线程类就可以直接撸代码了,但 ...
随机推荐
- oracle报错 ORA-02290: 违反检查约束条件问题
场景: 使用plsql/developer 将原本要求非空的字段 改为可以为空 然后在插入数据的时候 报错改字段约束条件还起作用 解决方案: 首先查询该表的约束条件 select * from u ...
- 谷歌浏览器添加JSON-handle插件
访问谷歌应用商店必须FQ,具体可安装谷歌访问助手:http://www.cnblogs.com/yangcx666/p/8783642.html 不想FQ的可以百度 "谷歌插件网" ...
- 使用透视表pivot_table
使用透视表pivot_table 功能:从一张大而全的表格中提取出我们需要的信息来分析 import pandas as pd unames = ['user_id', 'gender', 'age' ...
- A* 算法的原理
参考下面的博客内容, 已经写的很详细了, 就不用重复写了. https://blog.csdn.net/haxiongha/article/details/81357687
- python3-基础2
数据类型:数字 .字符.列表.字典.集合 字符串: 要用引号引起来 单引号 双引号 三引号 字符串只能存一个值,没有单独字符一说 取字符串值 print(name[0]) 中括号表示 常用 ...
- JavaScript 集合对象
1. 集合对象 1.1 Object 关于Object类型的创建和底层存储原理我在另一篇文章有说明: JavaScript 对象属性底层原理 我们知道了大多数情况下Object底层都是Hash结构,我 ...
- 3.Qt GUI中一些操作记录
一.如何在Widget中利用代码添加背景图片 this->setAutoFillBackground(true); // QPalette palette = this->palette( ...
- Scrapy实战篇(七)之爬取爱基金网站基金业绩数据
本篇我们以scrapy+selelum的方式来爬取爱基金网站(http://fund.10jqka.com.cn/datacenter/jz/)的基金业绩数据. 思路:我们以http://fund.1 ...
- 转载:MySQL:亲测备份策略实例(线上真实备份案例)
是否为线上库的备份而烦恼过,这里提供一个完整的备份从属数据库的备份方案,亲测可用 说明: 备份从库,按周计,每周进行一次全备 每周一的早上六点进行全备,其他时间备份中继日志 在从库上启用rsync服务 ...
- 转发:VB程序操作word表格(文字、图片)
很多人都知道,用vb操作excel的表格非常简单,但是偏偏项目中碰到了VB操作word表格的部分,google.baidu搜爆了,都没有找到我需要的东西.到是搜索到了很多问这个问题的记录.没办法,索性 ...