一.MYSQL 中有两种排序方式:
1:通过有序索引顺序扫描直接返回有序数据,这种方式在使用explain 分析查询的时候显示为Using Index ,不需要额外的排序,操作效率较高。
2: 是通过对返回数据进行排序,也就是通常说的filesort 排序,所有不是通过索引直接返回排序结果都叫filesort排序。filesort 并不代表磁盘文件进行排序,而只是说明了进行一个排序操作,至于排序操作是否使用了磁盘文件或临时表等,则取决于mysql 服务器对排序参数的设置和需要排序数据的大小。例如,按照商店store_id 排序返回所有客户记录时,出现了对全表扫描的结果排序:
explain select * from customer order by store_id
Extra : Using filesort
又如,只需要获取商店store_id 和顾客email 信息时,对表customer 的扫描就被覆盖索引idx_storeid_email 扫描替代,此时虽然只访问了索引就足够,但是在索引idx_stored_email 上发生了一次排序操作,所以执行计划仍然有 using filesort.
alter table customer add index idx_storeid_email(store_id,email);
explain select store_id ,email ,customer_id from customer order by email
extra :Using Index ,Using filesort
Filesort 是通过相应的排序算法,将取得的数据在sort_buffer_size 系统变量设置的内存排序区中进行排序,如果内存装载不下,它就会将磁盘上的数据进行分区,再对各个数据块进行排序,然后将各个块合并成有序的结果集。sort_buffer_size 设置的排序区是每个线程独占的,所以同一个时刻,mysql 中存在多个sort buffer 排序区.
了解了mysql 排序的方式,优化目标就清晰了:尽量减少额外的排序,通过索引直接返回有序数据。where 条件和order by 使用相同的索引,并且order by 的顺序和索引顺序相同,并且order by 的字段都是生序或者都是降序,否则肯定需要额外的排序操作,这样就会出现filesort.
总结,下列SQL 可以使用索引:
select * from tabname order by key_part1,key_part2,......;
select * from tabname where key_part1 order by key_part1 desc ,key_part2 desc;
select * from tabname order by key_part1,key_part2 desc;
但是在以下几种情况下则不使用 索引:
select * from tabname order by key_part1 desc ,key_part2 asc;
-- order by 的字段混合ASC 和 DESC
select * from tabname where key2=constant order by key1;
-- 用于查询行的关键字与order by 中所使用的不相同
select * from tabname order by key1,key2;
-- 对不同的关键字使用order by :
二.Filesort 的优化
通过创建合适的索引能够减少filesort 出现,但是在某些情况下,条件限制不能让filesort 消失,那就需要想办法加快 filesort 的操作。对于filesort ,MYSQL 有两种排序算法。
1.两次扫描算法(Two passes):首先根据条件取出排序字段和行指针信息,之后在排序区sort buffert 中排序。如果排序区sort buffer 不够,则在临时表temporary table 中存储排序结果。完成排序后根据行指针回表读取记录。该算法是mysql 4.1 之前采用的算法,需要两次访问数据,第一次获取排序字段和行指针信息,第二次根据行指针获取记录,尤其是第二次读取操作可能导致大量随机 I/O 操作;优点是排序的时候内存呢开销哦较少。
2. 一次扫描算法(Single pass):一次行取出满足条件的行的所有字段,然后在排序区sort buffer 中排序后直接输出结果集。排序的时候内存开销比较大,但是排序效率比两次扫描算法要高。
MySQL 通过比较系统变量 max_length_for_sort_data 的大小和Query 语句取出的字段总大小来判断使用哪种 排序算法。如果 max_length_for_sort_data更大,那么使用第二种优化之后的算法;否则使用第一种算法。
适当加大系统变量max_length_for_sort_data 的值,能够让 mysql 选择更优化的filesort 排序算法。当然,假如 max_length_for_sort_data 设置过大,会造成cpu 利用率过低和磁盘I/ O过高,cpu 和I/O利用平衡就足够了。
适当加大sort_buffer_size 排序区,尽量让排序在内存中完成,而不是通过创建临时表放在文件中进行;当然也不能无限制加大 sort_buffer_size 排序区,因为sort_buffer_size 参数是每个线程独占的,设置过大,会导致服务器SWAP 严重,要考虑数据库活动连接数和服务器内存的大小来适当设置排序区。
尽量使使用必要的字段,select 具体的字段名称,而不是 select * 选择 所有字段,这样可以减少排序区的使用,提高SQL 性能。
三. 优化 Group BY 语句
如果查询包含Group by 但用户想要 避免排序结果的消耗,则可以指定order by null 禁止排序。
explain select payment_date,sum(amount) from payment group by payment_fate
extra : Using temporary;Using filesort
explain select payment_date,sum(amount) from payment_date order by null
extra : Using temporary
- MySQL的外键,修改表,基本数据类型,表级别操作,其他(条件,通配符,分页,排序,分组,联合,连表操作)
MySQL的外键,修改表,基本数据类型,表级别操作,其他(条件,通配符,分页,排序,分组,联合,连表操作): a.创建2张表 create table userinfo(nid int not nul ...
- MySql下实现先排序后分组
最近在工作中遇到一个先排序后分组的需求,发现MySql不同的版本有不同的结果,特此记录. 举例:要求在shop表中查询出各类型商店中价格最高的商品. --表结构-- create table `sho ...
- mysql 怎样先排序再分组
权游游牧族:众所周知!一句SqL语句不能先排序再分组.所以这里给出几个案例 --表结构-- create table `shop` ( `id` int (10) PRIMARY KEY, `shop ...
- MySQL进阶5--分组函数 / 分组排序和分组查询 group by(having) /order by
MySQL进阶--分组排序和分组查询 group by(having) /order by /* 介绍分组函数 功能:用做统计使用,又称为聚合函数或组函数 1.分类: sum, avg 求和 /平均数 ...
- MySQL最常用分组聚合函数
一.聚合函数(aggregation function)---也就是组函数 在一个行的集合(一组行)上进行操作,对每个组给一个结果. 常用的组函数: AVG([distinct] expr) 求平均值 ...
- ElasticSearch6.0 Java API 使用 排序,分组 ,创建索引,添加索引数据,打分等(一)
ElasticSearch6.0 Java API 使用 排序,分组 ,创建索引,添加索引数据,打分等 如果此文章对你有帮助,请关注一下哦 1.1 搭建maven 工程 创建web工程 ...
- sql中实现先排序后分组
数据表结构和数据如下: CREATE TABLE `commun_message_chat_single` ( `id` ) NOT NULL AUTO_INCREMENT, `chat_id` ) ...
- DQL语句排序与分组
DQL语句排序与分组 一.DQL-排序 排序是计算机内经常进行的一种操作,其目的是将一组"无序"的记录序列调整为"有序"的记录序列.分内部排序和外部排序,若整个 ...
- Hadoop学习笔记—11.MapReduce中的排序和分组
一.写在之前的 1.1 回顾Map阶段四大步骤 首先,我们回顾一下在MapReduce中,排序和分组在哪里被执行: 从上图中可以清楚地看出,在Step1.4也就是第四步中,需要对不同分区中的数据进行排 ...
随机推荐
- 初识docker与理解
因最近公司的一个新项目,有一个业务场景是需要给多个甲方的服务器配置运行环境与部署,所以考虑使用docker来实现环境配置的统一 1.docker是什么 docker是一种容器虚拟化技术的实现,相当于在 ...
- 使用tap、Fragment等相关相关知识点。实现类似微信的界面
实验结果,可以实现通过左右活动来切换不同的界面.也可以通过点击不同的下方按钮来实现切换不同的界面. 自己也添加了相关的自己编写的小页面来展示相关的效果.主要的是对于碎片Fragment对于tap的相关 ...
- matplotlib TransformWrapper
2020-04-09 23:26:53 --Edit by yangray TransformWrapper 是Transform的子类, 支持在运行中替掉一个变换(可以是不同类型, 但维度必须相同) ...
- std::string::substr函数
string substr (size_t pos = 0, size_t len = npos) const;
- termux上安装lxml失败
想试试在手机上随时可以接收到各个平台上最新的消息,于是打算在qpython上写个python的爬虫,安装bs4后,在安装lxml时出现了问题. qpython失败后,改用termux试一下,结果出现了 ...
- Three.js三维模型几何体旋转、缩放和平移
创建场景中的三维模型往往需要设置显示大小.位置.角度,three.js提供了一系列网格模型对象的几何变换方法,从WebGL的角度看,旋转.缩放.平移对应的都是模型变换矩阵,关于矩阵变换内容可以观看本人 ...
- L23模型微调fine tuning
resnet185352 链接:https://pan.baidu.com/s/1EZs9XVUjUf1MzaKYbJlcSA 提取码:axd1 9.2 微调 在前面的一些章节中,我们介绍了如何在只有 ...
- Linux命令与Shell
Linux 目录结构及解释 查看命令行执行完位置: echo $BASH 命令记录 mkdir mkdir命令 用来创建目录. 语法:mkdir (选项)(参数) 主要选项: -m<目标属性& ...
- Navicat自动备份数据库
@ 目录 Navicat自动备份数据库 备份与还原 修改备份位置 MySQL:5.7 Navicat:11 Windows10 重要数据库的定时备份是非常重要的,使用Navicat可以非常方便快捷地自 ...
- Django文档阅读-Day1
Django文档阅读-Day1 Django at a glance Design your model from djano.db import models #数据库操作API位置 class R ...