sql及索引优化

如何通过慢查询日志发现有问题的sql?

  1. 查询次数多且每次查询占用时间长的sql
    通常为pt-query-digest分析的前几个查询

  2. IO大的sql
    注意pt-query-digest分析中的rows examine项

  3. 未命中索引的sql
    注意pt-query-digest分析中rows examine 和 rows send的对比

磁盘IO与预读:磁盘读取数据靠的是机械运动,每次读取数据花费的时间可以分为寻道时间,旋转时间,传输时间三个部分。虽然平常理论上来说没什么压力,

但是数据库如果动辄十万百万乃至千万级数据,显然是个灾难。

了解下mysql的B+树:一种为了减少IO操作快速搜索到数据的数据结构,如下图:


    说明:

蓝色部分磁盘块

黄色部分指针

深蓝色目标数据块
    分析一下查找的过程:

如果要查询数据为29的值:

1.将磁盘一加入到内存中此时发生一次IO,在内存中用二分查找确定29在17和35之间,锁定磁盘块1的P2指针

2.通过磁盘块1的P2指针的磁盘地址把磁盘块3由磁盘加载到内存,发生第二次IO

3. 29在26和30之间,锁定磁盘块3的P2指针,通过指针加载磁盘块8到内存,发生第三次IO,同时内存中做二分查找找到29,结束查询

总结:总计三次IO,真实的情况是,3层的b+树可以表示上百万的数据,如果上百万的数据查找只需要三次IO,性能提高将是巨大的,如果没有索引,

每个数据项都要发生一次IO,那么总共需要百万次的IO,显然成本非常非常高。

解释下什么叫二分法:其实就是一种通过不断排除不可能的东西,来最终找到需要的东西的一种方法,所以可以理解成排除法。之所以叫二分,是因为

每次排除都把所有的情况分为“可能”和不可能两种,然后抛弃所有“不可能”的情况。

优化sql实际上主要目的是为了减少IO操作:
1.如果想在mysql配置方面减少IO的操作:尽可能使用缓存,减少读写对数据库的随机IO的请求,同时减少写的随机IO的随时发生,利用各种buffer去缓存。

2.创建索引:合理的索引是为了少量IO操作达到数据的获取。

建立索引的几大原则:
1.在where 从句,group by从句,on从句中出现的列

2.最左前缀匹配,非常重要的原则,mysql会一直向左匹配直到遇到范围查询(>,<,between,like)就停止匹配
eg:a=1 and b=2 and c=3 and d=4   索引  add index (a,b,c,d)  这样创建d是用不到索引的
eg:a=1 and b=2 and c=3 and d=4   索引  add index(a,b,d,c) 这样创建则都可以用到,a,b,d的顺序可以任意调整

3.离散度大的列放到联合索引的前面

计算离散度的公式是count(distinct col)/count(*),表示字段不重复的比例,比例越大我们扫描的记录数越少。

select * from payment where staff_id=2 and customer_id=584;

是index(sftaff_id,customer_id)好?还是index(customer_id,staff_id)?
    由于customer_id的离散度更大,所以应该使用index(customer_id,staff_id)

4.索引列不能参与计算,保持列干净
    索引列不能参与计算,保持列干净,在where语句中索引字段不要使用函数,进行检索的时候需要把所有元素都应用函数才能比较,先人成本太大。

5.索引字段越小越好
    使用短索引,如果对字符串列进行索引,应该指定一个前缀长度,可节省大量索引空间,提升查询速度。

6.尽量的扩展索引,不要新建索引。

说了这么多索引的优点但是索引也是有负面的:

  1. 每个额外的索引都要占用额外的磁盘空间,并降低写操作的性能

2.在修改表的内容时,索引必须进行更新,有时可能需要重构,因此,所花的时间越长。

什么叫做好的索引:

  1. 查询频繁(业务逻辑决定)

  2. 区分度高

  3. 长度小(与区分度保持一个平衡就是一个最优的效果)

  4. 尽量能覆盖常用查询字段(并不表示所有字段都建立索引)

sql及索引优化

如何通过慢查询日志发现有问题的sql?

  1. 查询次数多且每次查询占用时间长的sql
    通常为pt-query-digest分析的前几个查询

  2. IO大的sql
    注意pt-query-digest分析中的rows examine项

  3. 未命中索引的sql
    注意pt-query-digest分析中rows examine 和 rows send的对比

磁盘IO与预读:磁盘读取数据靠的是机械运动,每次读取数据花费的时间可以分为寻道时间,旋转时间,传输时间三个部分。虽然平常理论上来说没什么压力,

但是数据库如果动辄十万百万乃至千万级数据,显然是个灾难。

了解下mysql的B+树:一种为了减少IO操作快速搜索到数据的数据结构,如下图:

说明:

蓝色部分磁盘块

黄色部分指针

深蓝色目标数据块
    分析一下查找的过程:

如果要查询数据为29的值:

1.将磁盘一加入到内存中此时发生一次IO,在内存中用二分查找确定29在17和35之间,锁定磁盘块1的P2指针

2.通过磁盘块1的P2指针的磁盘地址把磁盘块3由磁盘加载到内存,发生第二次IO

3. 29在26和30之间,锁定磁盘块3的P2指针,通过指针加载磁盘块8到内存,发生第三次IO,同时内存中做二分查找找到29,结束查询

总结:总计三次IO,真实的情况是,3层的b+树可以表示上百万的数据,如果上百万的数据查找只需要三次IO,性能提高将是巨大的,如果没有索引,

每个数据项都要发生一次IO,那么总共需要百万次的IO,显然成本非常非常高。

解释下什么叫二分法:其实就是一种通过不断排除不可能的东西,来最终找到需要的东西的一种方法,所以可以理解成排除法。之所以叫二分,是因为

每次排除都把所有的情况分为“可能”和不可能两种,然后抛弃所有“不可能”的情况。

优化sql实际上主要目的是为了减少IO操作:
1.如果想在mysql配置方面减少IO的操作:尽可能使用缓存,减少读写对数据库的随机IO的请求,同时减少写的随机IO的随时发生,利用各种buffer去缓存。

2.创建索引:合理的索引是为了少量IO操作达到数据的获取。

建立索引的几大原则:
1.在where 从句,group by从句,on从句中出现的列

2.最左前缀匹配,非常重要的原则,mysql会一直向左匹配直到遇到范围查询(>,<,between,like)就停止匹配
eg:a=1 and b=2 and c=3 and d=4   索引  add index (a,b,c,d)  这样创建d是用不到索引的
eg:a=1 and b=2 and c=3 and d=4   索引  add index(a,b,d,c) 这样创建则都可以用到,a,b,d的顺序可以任意调整

3.离散度大的列放到联合索引的前面

计算离散度的公式是count(distinct col)/count(*),表示字段不重复的比例,比例越大我们扫描的记录数越少。

select * from payment where staff_id=2 and customer_id=584;

是index(sftaff_id,customer_id)好?还是index(customer_id,staff_id)?
    由于customer_id的离散度更大,所以应该使用index(customer_id,staff_id)

4.索引列不能参与计算,保持列干净
    索引列不能参与计算,保持列干净,在where语句中索引字段不要使用函数,进行检索的时候需要把所有元素都应用函数才能比较,先人成本太大。

5.索引字段越小越好
    使用短索引,如果对字符串列进行索引,应该指定一个前缀长度,可节省大量索引空间,提升查询速度。

6.尽量的扩展索引,不要新建索引。

说了这么多索引的优点但是索引也是有负面的:

  1. 每个额外的索引都要占用额外的磁盘空间,并降低写操作的性能

2.在修改表的内容时,索引必须进行更新,有时可能需要重构,因此,所花的时间越长。

什么叫做好的索引:

  1. 查询频繁(业务逻辑决定)

  2. 区分度高

  3. 长度小(与区分度保持一个平衡就是一个最优的效果)

  4. 尽量能覆盖常用查询字段(并不表示所有字段都建立索引)

性能优化之mysql索引优化的更多相关文章

  1. MySQL性能优化,MySQL索引优化,order by优化,explain优化

    前言 今天我们来讲讲如何优化MySQL的性能,主要从索引方面优化.下期文章讲讲MySQL慢查询日志,我们是依据慢查询日志来判断哪条SQL语句有问题,然后在进行优化,敬请期待MySQL慢查询日志篇 建表 ...

  2. MYSQL索引优化思维导图

    有关索引的优化.MYSQL索引优化     文章来源:刘俊涛的博客 地址:http://www.cnblogs.com/lovebing

  3. Mysql 索引优化分析

    MySQL索引优化分析 为什么你写的sql查询慢?为什么你建的索引常失效?通过本章内容,你将学会MySQL性能下降的原因,索引的简介,索引创建的原则,explain命令的使用,以及explain输出字 ...

  4. 知识点:Mysql 索引优化实战(3)

    知识点:Mysql 索引原理完全手册(1) 知识点:Mysql 索引原理完全手册(2) 知识点:Mysql 索引优化实战(3) 知识点:Mysql 数据库索引优化实战(4) 索引原理知识回顾 索引的性 ...

  5. MySQL索引优化步骤总结

    在项目使用mysql过程中,随着系统的运行,发现一些慢查询,在这里总结一下mysql索引优化步骤 1.开发过程优化 开发过程中对业务表中查询sql分析sql执行计划(尤其是业务流水表),主要是查看sq ...

  6. MySQL索引优化看这篇文章就够了!

    阅读本文大概需要 5 分钟. 来源:cnblogs.com/songwenjie/p/9410009.html 本文主要讨论MySQL索引的部分知识.将会从MySQL索引基础.索引优化实战和数据库索引 ...

  7. mysql索引优化比普通查询速度快多少

    mysql索引优化比普通查询速度快多少 一.总结 一句话总结:普通查询全表查询,速度较慢,索引优化的话拿空间换时间,一针见血,所以速度要快很多. 索引优化快很多 空间换时间 1.软件层面优化数据库查询 ...

  8. mySql索引优化分析

    MySQL索引优化分析 为什么你写的sql查询慢?为什么你建的索引常失效?通过本章内容,你将学会MySQL性能下降的原因,索引的简介,索引创建的原则,explain命令的使用,以及explain输出字 ...

  9. 讲真,MySQL索引优化看这篇文章就够了

    本文主要讨论MySQL索引的部分知识.将会从MySQL索引基础.索引优化实战和数据库索引背后的数据结构三部分相关内容,下面一一展开. 一.MySQL——索引基础 首先,我们将从索引基础开始介绍一下什么 ...

随机推荐

  1. IOS - 前台时的推送弹窗效果

    作者:Pikacode 原文链接:http://www.jianshu.com/p/67864e1c2085 本文获作者授权转载 或许很多童鞋还不知道,在 iOS 中收到推送通知时,如果 App 处于 ...

  2. iptables详解(13):iptables动作总结之二

    概述 阅读这篇文章需要站在前文的基础上,如果你在阅读时遇到障碍,请参考之前的文章. 前文中,我们已经了解了如下动作 ACCEPT.DROP.REJECT.LOG 今天,我们来认识几个新动作,它们是: ...

  3. yum search 不好用时

    用  yum provides */  eg :yum provides */pstack

  4. ubuntu安装amd/ati显卡驱动

    原网页: http://forum.ubuntu.org.cn/viewtopic.php?f=126&t=390372 整合了几个帖子,大概如此:用以下命令卸载所有驱动: 代码: sudo ...

  5. Access control allow origin 简单请求和复杂请求

    原文地址:http://blog.csdn.net/wangjun5159/article/details/49096445 错误信息: XMLHttpRequest cannot load http ...

  6. 【Html 学习笔记】第八节——表单实践

    列举一些实践的例子: 1.点击按钮后跳转: <html> <body> <form action="1.html"> First <inp ...

  7. 将django的admin后台界面改为中文

    很简单,直接修改settings配置文件的以下3项(django==1.9). LANGUAGE_CODE = 'zh-hans' TIME_ZONE = 'Asia/Shanghai' USE_TZ ...

  8. Maven入门-2.Maven一些核心概念介绍

    1.Maven仓库2.Maven坐标3.Maven插件和目标4.Maven生命周期4.1 clean:清理项目4.2 default:构建项目(重要)4.3 site:建立项目站点 1.Maven仓库 ...

  9. mysql创建的数据库在电脑什么位置?

    你可以在mysql 命令行里执行 show variables like '%datadir%'; 显示出你数据文件的路径,能找到以你创建的数据库的名字的文件夹了.

  10. Android程序员学WEB前端(4)-HTML(4)-注册页面-Sublime

    转载请注明出处:http://blog.csdn.net/iwanghang/article/details/76576031 觉得博文有用,请点赞,请评论,请关注,谢谢!~ 注册页面1: <! ...