Master Thread工作方式

  在前面的文章:InnoDB体系架构——后台线程 说到:InnoDB存储引擎的主要工作都是在一个单独的后台线程Master Thread中完成。这篇具体介绍该线程的具体实现及该线程可能存在的问题。

一、InnoDB1.0X版本之前的Master Thread

  Master Thread具有最高的线程优先级别,内部由多个循环组成:主循环(loop)、后台循环(background loop)、刷新循环(flush loop)、暂停循环(suspend loop),Master Thread会根据数据库运行的状态进行循环之间的切换。

  Loop主循环(大多数操作都在这个循环下)这个由两大部分操作,每秒和每10秒操作:

void master_thread() {
loop:
for(int i=; i<; i++) {
do thing once per second
sleep second if necessary
}
do things once per then seconds
goto loop;
}

  可以发现,loop循环是通过thread sleep来实现的,意味着每秒或者每10每秒的操作并不是十分的精确的,在负载大的情况下,可能会有不同程度的延迟(delay)。

  每秒一次的操作包括:

1. 日志缓冲刷新到磁盘(总是):即使事务没有提交,InnoDB也会每秒将重做日志缓冲刷新到重做日志文件中,因此可以理解为什么再大的事务提交,时间也是很短的。

2. 合并插入缓冲insert buffer(可能):并不是每秒刷新的,如果前一秒的IO次数小于5,则认为IO压力小,可以执行合并插入缓冲的操作。

3. 最多刷新100个InnoDB的缓冲池脏页到磁盘(可能):判断当前缓冲池中脏页的比例(buf_get_modifyed_ratio_pct)是否超过了配置文件中innodb_max_dirty_pages_pct这个参数(默认为90)如果超过了这个阈值,InnoDB存储引擎认为需要做同步操作,将100个脏页写入磁盘中。

4. 如果当前没有用户活动,切换到background loop(可能)

  每10秒的操作:

1. 刷新100个脏页到磁盘(可能)

2. 合并至多5个插入缓冲(总是)

3. 将日志缓冲刷新到磁盘(总是)

4. 删除无用的undo页(总是):InnoDB存储引擎会执行full purse操作,即删除无用的Undo页,对表进行update、delete这类操作,原先行被标记删除,但是因为一致性读读关系,需要保留这些行的版本号,这时候会进行回收删除。

5. 刷新100个或者10个脏页到磁盘(总是)

  接着来看background loop 若当前没有用户活动(数据库空闲时)或者数据库关闭(shutdown),就会切换到这个循环执行以下操作:

1. 删除无用的undo页(总是)

2. 合并20个插入缓冲(总是)

3. 跳回到主循环(总是)

4. 不断刷新100个页,直到符合条件(可能,跳转到flush loop中完成):如果fulsh loop 页没有什么事情可以做了,InnoDB存储引擎会切换到suspend loop,将Master Thread刮起。

二、InnoDB1.2.X之前的版本的Master Thread

  在如今磁盘技术的快速发展中,对于缓冲池向磁盘刷新时都做了一定的hard coding,这些限制很大程度上限制了InnoDB存储引擎对磁盘IO的性能,尤其是写入性能。

  因此提供参数innodb_io_capacity用来表示IO的吞吐量,默认200,对于刷新到磁盘页的数量,会按照innodb_io_capacity的百分比来控制:

    在合并插入缓冲时,合并插入缓冲的数量为innodb_io_capacity值5%;

    在从缓冲池刷新脏页时,刷行脏页的数量为innodb_io_capcity;

  通过以下为代码,我们可以得到InnoDB1.2X前Master Thread的工作方式:

void master_thread() {
loop:
for(int i=; i<; i++) {
thread_sleep() // sleep 1秒
do log buffer flush to dish if (last_one_second_ios < % innodb_io_capacity) {
do merget % innodb_io_capacity insert buffer
} if (buf_get_modified_ratio_pct > innodb_max_dirty_pages_pct) { // 如果缓冲池中的脏页比例大于innodb_max_dirty_pages_pct(默认是75时)
do buffer pool flush % innodb_io_capacity dirty page // 刷新全部脏页到磁盘
} else if (enable adaptive flush) { // 如果开户了自适应刷新
do buffer pool flush desired amount dirty page // 通过判断产生redo log的速度决定最合适的刷新脏页的数量
} if (no user activetuy) {
goto background loop
}
} if (last_ten_second_ios < innodb_io_capacity) { // 如果过去10内磁盘IO次数小于设置的innodb_io_capacity的值(默认是200)
do buffer pool flush % innodb_io_capacity dirty page
} do merge % innodb_io_capacity insert buffer // 合并插入缓冲是innodb_io_capacity的5%(10)(总是)
do log buffer flush to dish
do flush purge if (buf_get_modified_ratio_pct > %) {
do buffer pool flush % innodb_io_capacity dirty page
} else {
do buffer pool flush % innodb_io_capacity dirty page
}
goto loop backgroud loop: // 后台循环
do full purge // 删除无用的undo页 (总是)
do merger % innodb_io_capacity insert buffer // 合并插入缓冲是innodb_io_capacity的5%(10)(总是)
if not idle: // 如果不空闲,就跳回主循环,如果空闲就跳入flush loop
goto loop: // 跳到主循环
else:
goto flush loop
flush loop: // 刷新循环
do buf_get_modified_ratio_pct pool flush % innodb_io_capacity dirty page // 刷新200个脏页到磁盘
if ( buf_get_modified_ratio_pct > innodb_max_dirty_pages_pct ) // 如果缓冲池中的脏页比例大于innodb_max_dirty_pages_pct的值(默认75%)
goto flush loop // 跳到刷新循环,不断刷新脏页,直到符合条件
goto suspend loop // 完成刷新脏页的任务后,跳入suspend loop
suspend loop:
suspend_thread() //master线程挂起,等待事件发生
waiting event
goto loop;
}

三、InnoDB1.2.x版本的Master Thread

if (InnoDB is idle) {
srv_master_do_idle_tasks(); // 每10秒操作
} else {
srv_master_do_active_tasks(); // 每秒操作
}

InnoDB体系架构(四)Master Thread工作方式的更多相关文章

  1. innodb master thread 工作原理

    参考 innodb参数汇总  InnoDB的Master Thread工作原理 innodb_max_dirty_pages_pct 默认值 show variables like 'innodb_m ...

  2. InnoDB体系架构(三)Checkpoint技术

    Checkpoint技术 前篇 InnoDB体系架构(二)内存 从缓冲池.缓冲池的管理.重做日志缓冲.额外内存缓冲这四个点介绍了InnoDB存储引擎的内存结构,而在将缓冲池的数据刷新到磁盘的过程中使用 ...

  3. InnoDB体系架构(二)内存

    InnoDB体系架构(二)内存 上篇文章 InnoDB体系架构(一)后台线程 介绍了MySQL InnoDB存储引擎后台线程:Master Thread.IO Thread.Purge Thread. ...

  4. InnoDB体系架构(一)后台线程

    InnoDB体系架构——后台线程 上一篇已经了解了MySQL数据库的体系结构 这一篇除了介绍InnoDB存储引擎的体系架构外,同时进一步了解InnoDB的后台线程. InnoDB存储引擎是多线程的模型 ...

  5. InnoDB体系架构

    MySQL支持插件式存储引擎,常用的存储引擎则是MyISAM和InnoDB,通常在OLTP(Online Transaction Processing 在线事务处理)中,我们选择使用InnoDB,所以 ...

  6. InnoDB master thread工作原理

    我们简单交流下InnoDB master thread学习,有兴趣的朋友可以参考<<MySQL技术内蒙--InnoDB存储引擎第二版>> void master_thread( ...

  7. 2.3 InnoDB 体系架构

    下图简单显示了InnoDB的存储引擎的体系架构,从图可见,InnoDB储存引擎有多个内存块,可以认为这些内存块组成了一个大的内存池,负责如下工作: 维护所有进程/线程需要访问的多个内部数据结构 缓存磁 ...

  8. 输入/输出系统的四种不同工作方式对CPU利用率比较

    程序控制工作方式:输入/输出完全由CPU控制,整个I/O过程中CPU必须等待其完成,因此对CPU的能力限制很大,利用率较低 程序中断工作方式:CPU不再定期查询I/O系统状态,而是当需要I/O处理时再 ...

  9. MySQL技术内幕 InnoDB存储引擎 之 InnoDB体系架构

    后台线程 1.Master Thread 2.IO Thread 3.Purge Thread 4.Page Cleaner Thread  内存 重做日志在以下三种情况下将重做日志缓存中的内容刷新到 ...

随机推荐

  1. c#读取文本并生成txt

    using System; using System.Collections.Generic; using System.ComponentModel; using System.Data; usin ...

  2. pip install 提示代理连接失败原因及解决办法

    # pip install 提示代理连接失败原因及解决办法 1. 错误提示 在公司电脑上安装Python的虚拟环境时输入命令: pip install virtualenv 系统提示以下异常信息: R ...

  3. Node.js 初识2

    原文:https://www.cnblogs.com/zzuIvy/p/nodejs_1.html 测试:node.js部署网站 1.创建js2.js var http = require('http ...

  4. JVM系列2:垃圾收集器与内存分配策略

    垃圾收集是一个很大话题,本文也只是看了深入理解Java虚拟机总结了下垃圾收集的知识. 首先按照惯例,先上思维导图: 垃圾收集简而言之就是JVM帮我们清理掉内存区域不需要的数据.它主要负责清理堆中实例对 ...

  5. 通过启动函数定位main()函数

      如下,通过vc6.0编写一个hello world程序.尝试结合汇编代码.分析启动函数找到main函数.   在printf(xxx)插入断点,调试执行.如下,在堆栈窗口中可见main()下的一个 ...

  6. Linux基本的操作

    一.为什么我们要学习Linux 相信大部分人的PC端都是用Windows系统的,那我们为什么要学习Linux这个操作系统呢???Windows图形化界面做得这么好,日常基本使用的话,学习成本几乎为零. ...

  7. 清理xcode

    移除 Xcode 运行安装 APP 产生的缓存文件(DerivedData) ~/Library/Developer/Xcode/DerivedData 移除 APP 打包的ipa历史版本(Archi ...

  8. -bash: ls: No such file or directory 产生的原因及修改方法

    ubuntu出现如下错误: { Welcome to Ubuntu 16.04.5 LTS (GNU/Linux 4.15.0-42-generic x86_64) * Documentation: ...

  9. cpp 区块链模拟示例(五) 序列化

    有了区块和区块链的基本结构,有了工作量证明,我们已经可以开始挖矿了.剩下就是最核心的功能-交易,但是在开始实现交易这一重大功能之前,我们还要预先做一些铺垫,比如数据的序列化和启动命令解析. 根据< ...

  10. php5.6 phpmystudy 版本出问题

    No input file specified的解决方法 https://jingyan.baidu.com/article/f7ff0bfccce11c2e26bb1381.html