MySQL重构查询的方式
在优化有问题的查询时,目标应该是找到一个更优的方法获得实际需要的结果--而不一定总要从MySQL获取一模一样的结果集。有时候可以查询转换一种写法让其返回一样的结果,但是性能更好。但也可以通过修改应用代码,用另一种方式完成查询,最终达到一样的目的。这里我们将介绍如何通过这种方式来重构查询,并展示合适需要使用这样的技巧。
1 用一个复杂的查询还是多个简单的查询。
设计查询的时候一个需要考虑的重要问题是:是否需要将一个复杂的查询分成多个简单的查询。在传统实现中,总是强调需要数据库层完成尽可能多的工作,这样做的逻辑在于以前我那个是认为网络通信,查询解析和优化是一件代价很高的事情。
但是这样的想法对于MySQL并不适用,MySQL从设计上连接和断开连接都是很轻量级的,在返回一个小的查询结果方面效率很高效。现代的网络速度比之前的要快很多,无论是带宽还是延迟。在某些版本的MySQL上,即使在一个彤彤服务器上,也能够运行每秒超过10W的查询,即使是一个千兆网卡也能轻松满足每秒超过2000次的查询。索引运行多个小查询限制已经不是很大的问题了。
MySQL内部每秒能够扫描内存中百万行的数据,相比之下,MySQL响应数据给客户端就要慢得多了。在其他条件都相同的时候,使用尽肯能少的查询当然是最好的。但是有时候,将一个大查询分解为多个小查询是很有必要的。别害怕这样做,好哈的衡量一下只有这是不是会减少工作量。稍微我们将通过本章的一个实例来展示这个技巧的优势。
2切分查询
有时候对于一个大查询我们需要分而治之,将大查询切分成小查询,每个查询功能完全一样,值完成一小部分,每次只返回以小部分结果。
删除旧的数据就是一个很好的例子。定期的清理大量数据时,如果用一个大的语句一次性完成的话,则可能要一次锁住很多的数据,占满整个事务日志,好近系统资源,阻塞很多小的但终于的查询。将一个大的DELETE语句切分成多个较小的查询可以尽可能小的影响MySQL的性能,同时还可以减少MySQL复制的延迟。例如我们需要每个月运行一次下面的查询:
DELETE FROM message WHERE created < DATE_SUB(NOW(),INTERVAL 3 MONTH);
那么可以用类似下面的办法来完成同样的工作:
rows_affected = 0
do{
rows_affected = do_query("DELETE FROM message WHERE created < DATE_SUB(NOW(),INTERVAL 3 MONTH)) LIMIT 10000"}
}while rows_affected > 0
一次删除1W行数据一般来说是一个比较高效而且对服务器影响也最小的做法(如果是事务型引擎,很多时候笑屎我能够更高效)。同时需要注意的是,如果每次删除数据后,都暂停一会再做下一次删除,这样也可以将服务器上原本一次性的压力分散到一个很长的时间段中,就可以大大降低对服务器的影响,还可以大大减少删除时的锁的持有时间。
3 分解关联查询
很多高新能的应用都会对关联查询进行分解。简单的说,可以对每一个表进行一次单表查询,然后将结果在应用程序中进行关联,例如,下面的查询:
SELECT * FROM tag JOIN tag_post on tag_post.tag_id = tag.tag_id JOIN post ON tag_post.post_id = post.id WHERE tag.tag = 'mysql'
可以分解成下面的这些查询来代替:
SELECT * FROM tag where tag = 'mysql';
SELECT * FROM tag_post WHERE tagid=1234;
SELECT * FROM post WHERE post_id in (123,234,435,342);
到底为什么要这么做?乍一看,这样走并没有什么好处,原本一条查询,这里却变成多条查询,返回的结果又是一模一样的的。事实上,用分解关联查询的方式重构查询,有如下的优势:
1让缓存的效率更高。许多应用程序可以方便的缓冲单表查询对应的结果对象。例如:啥忙查询的tag已经被缓存了,那么应用就已经跳过第一个查询。再例如,应用中已经缓存了id为123,234,345的内容,那么第三个查询的in()中就可以少了几个id,另外对应MySQL的查询缓存来说,如果关联中的某个表发生了变化,那么久无法使用查询缓存了,而拆分后,如果某个表很少改变,那么基于该表的查询就可以重复利用查询缓存结果了。
2 将查询拆分后,执行党查询可以减少锁的竞争。
3 在应用层做关联,可以更容易对数据库进行拆分,更容易做到高新能和可扩展。
4 查询本身下来也可能会有所提升。这个例子中使用in()代替关联查询,可以让MySQL按照id顺序进行查询,这可比随机的关联要更高效。我们后续会详细介绍这一点。
5 可以减少冗余记录的查询。在应用层做关联,意味着对于某条记录应用只需要查询一次,而在数据库中做关联查询,则可能重复的访问同一部分数据。从这点看,这样的重构可能会减少网络和内存的消耗。
6更进一步,这样做相当于在应用中实现了hash关联,而不是使用MySQL的嵌套循环关联。某些场景中hash的关联效率要高很多。
在很多场景下,通过重构查询将关联查询放到应用长袖中将会更加高效,这样的场景有很多,比如:当应用能够方便的缓冲单个查询的结果的时候,可以将数据分布到不同的MySQL服务器上的时候,能够使用in()的方式代替关联查询的时候,单反查询中使用同一个数据表的时候。
MySQL重构查询的方式的更多相关文章
- MySQL之查询性能优化(一)
为什么查询速度会慢 通常来说,查询的生命周期大致可以按照顺序来看:从客户端,到服务器,然后在服务器上进行解析,生成执行计划,执行,并返回结果给客户端.其中“执行”可以认为是整个生命周期中最重要的阶段, ...
- MySQL慢查询日志配置方式 slow_query_log
MySQL慢查询(一) - 开启慢查询 - 鲁玉成 - 博客园 https://www.cnblogs.com/luyucheng/p/6265594.html mysql开启慢查询方法 - lava ...
- mysql中查询一个字段属于哪一个数据库中的哪一个表的方式
mysql中查询一个字段具体是属于哪一个数据库的那一张表:用这条语句就能查询出来,其中 table_schema 是所在库, table_name 是所在表 --mysql中查询某一个字段名属于哪一个 ...
- MySql学习—— 查询性能优化 深入理解MySql如何执行查询
本篇深入了解查询优化和服务器的内部机制,了解MySql如何执行特定查询,从中也可以知道如何更改查询执行计划,当我们深入理解MySql如何真正地执行查询,明白高效和低效的真正含义,在实际应用中就能扬长避 ...
- MySQL之查询性能优化(二)
查询执行的基础 当希望MySQL能够以更高的性能运行查询时,最好的办法就是弄清楚MySQL是如何优化和执行查询的.MySQL执行一个查询的过程,根据图1-1,我们可以看到当向MySQL发送一个请求时, ...
- 深入理解MySql子查询IN的执行和优化
IN为什么慢? 在应用程序中使用子查询后,SQL语句的查询性能变得非常糟糕.例如: SELECT driver_id FROM driver where driver_id in (SELECT dr ...
- MySQL慢查询日志总结
慢查询日志概念 MySQL的慢查询日志是MySQL提供的一种日志记录,它用来记录在MySQL中响应时间超过阀值的语句,具体指运行时间超过long_query_time值的SQL,则会被记录到慢查询日志 ...
- mysql慢查询日志分析工具 mysqlsla(转)
mysql数据库的慢查询日志是非常重要的一项调优辅助日志,但是mysql默认记录的日志格式阅读时不够友好,这是由mysql日志记录规则所决定的,捕获一条就记录一条,虽说记录的信息足够详尽,但如果将浏览 ...
- Mysql慢查询和慢查询日志分析
Mysql慢查询和慢查询日志分析 众所周知,大访问量的情况下,可添加节点或改变架构可有效的缓解数据库压力,不过一切的原点,都是从单台mysql开始的.下面总结一些使用过或者研究过的经验,从配置以 ...
随机推荐
- 简单对比Spark和Storm
2013年参与开发了一个类似storm的自研系统, 2014年使用过spark 4个多月,对这两个系统都有一些了解. 下面是我关于这两个系统的简单对比: Spark: 1. 基于数据并行,https: ...
- Es kibana
http://kibana.logstash.es/content/kibana/v4/setup/production.html
- cf C. Hacking Cypher
http://codeforces.com/contest/490/problem/C 题意:把一个很大的数分成两部分,前一部分可以被a整除,后一部分可以被b整除,如果存在输出这两部分,两部分都不能含 ...
- 【转】Android 带checkbox的listView 实现多选,全选,反选 -- 不错
原文网址:http://blog.csdn.net/onlyonecoder/article/details/8687811 Demo地址(0分资源):http://download.csdn.net ...
- 关于WebView的内存泄露 Leaked webview
[leaded webview 和WebView内存泄露问题解决方法] 解决方法1: 解决方法2 . 在Fragment回收Webview的时候注意一下. 就是讲他父控件里的内容清空: 参考:htt ...
- 查看Wii的系统版本信息
Wii的系统版本信息在系统设置界面就能看到: Step1:主界面 > Wii Options Step2:选择右边的Wii Settings Step3:如下图所示,当前主机的系统版本是4.2U ...
- HDU_1846——最简单的巴什博弈
Problem Description 十年前读大学的时候,中国每年都要从国外引进一些电影大片,其中有一部电影就叫<勇敢者的游戏>(英文名称:Zathura),一直到现在,我依然对于电影中 ...
- POJ2533 Longest ordered subsequence
Longest Ordered Subsequence Time Limit: 2000MS Memory Limit: 65536K Total Submissions: 41984 Acc ...
- iOS NSInvocation的学习
用途: NSInvocation的作用和performSelector:withObject:的作用是一样的:用于iOS编程中调用某个对象的消息. performSelector:withObject ...
- ubuntu下mysql中文乱码问题
本来就是想弄个网页往数据库里添加数据的,然后就发现了mysql的中文乱码问题,弄了半天解决方法如下: 首先停mysql服务,编辑配置文件my.cnf $ sudo stop mysql $sudo v ...