本文为博主原创,转载请注明出处:

  mysql使用group by可以使用一些聚合函数,可以计算最大值(max(column)),最小值(min(column)),总和(sum(column)),平均数(avg(column()))等等,

在使用聚合函数的函数的时候,我们只可以查询聚合函数相关的列,其余的列则不能进行查询。示例如下:

  表结构如下:

CREATE TABLE `fucdn_hot_rank_domain` (
`id` int(12) NOT NULL AUTO_INCREMENT COMMENT '主键',
`domain` int(11) NOT NULL COMMENT '域名id',
`band` double NOT NULL COMMENT '带宽,单位为B',
`total` int(16) NOT NULL COMMENT '请求数',
`clock` varchar(255) NOT NULL COMMENT '时间',
PRIMARY KEY (`id`),
UNIQUE KEY `domain` (`domain`,`clock`),
KEY `domain_id` (`domain`)
) ENGINE=InnoDB AUTO_INCREMENT=21961394 DEFAULT CHARSET=utf8 COMMENT='域名用量热门排行表';

  使用聚合函数查询非聚合列:

查询非聚合列的时候异常提示:

which is not functionally dependent on columns in GROUP BY clause; this is incompatible with sql_mode=only_full_group_by,不在聚合函数之内,查询异常。

如果要查询非聚合函数的列,可以再嵌套一遍进行关联查询,

使用如下:

这种查询的方便之处在于它可以避免写多个sql进行多次查询,但如果需要查询的时候有多条,则需要手动过滤一下。项目中用到的sql如下:

select clock, band, total,domain from (
select MAX(band)as band1,domain from fucdn_hot_rank_domain
where domain
in(11612,11613,11614,11615,11616,11617,11618,11619,11620)
and clock BETWEEN '2019-10-20 00:00:00.0' and '2019-10-20 23:59:59.0' GROUP BY domain ORDER BY band1 desc limit 20
)t join fucdn_hot_rank_domain fhrd on t.band1=fhrd.band and t.domain= fhrd.domain ORDER BY domain

之前代码中要查询这些数据的时候是分批次查询的,先查询所有数据,再根据过滤出的所有域名,计算出对应的峰值以及峰值时间。

代码都是用的流式计算,由于数据量大,计算相对还是比较慢的,后来优化为上面的sql后,性能比之前快了两倍多。

原来实现的代码如下,以供警醒,哈哈

@Override
public List<HotRankDomainResult> getHotRankDomainList(DomainCodeHelper helper) throws FucdnException {
List<HotRankDomainResult> resultList = new ArrayList<>();
System.out.println("<<<<<<<<<<<<<<selectTime::"+new Date());
List<HotRankHelper> helperList = hotRankDao.getHotRankDomainList(helper);
System.out.println(">>>>>>>>>>>>>>selectEndTime::"+new Date()); // 计算出域名带宽峰值,峰值时间,总流量,总请求数等
// 1.获取域名列表
List<String> domainList = helperList.stream().map(HotRankHelper::getDomain).collect(Collectors.toList()); // 2.对域名列表去重
domainList = domainList.stream().distinct().collect(Collectors.toList());
for (String domain : domainList) {
HotRankDomainResult resultDetail = new HotRankDomainResult();
// 获取域名对应的列表数据
List<HotRankHelper> domainResultList = helperList.stream()
.filter((HotRankHelper flow) -> domain.equals(flow.getDomain())).collect(Collectors.toList());
// 计算峰值
domainResultList = domainResultList.stream().sorted(Comparator.comparing(HotRankHelper::getBand).reversed())
.collect(Collectors.toList()); // 计算总流量和请求数
double totalFlow = domainResultList.stream().collect(Collectors.summingDouble(HotRankHelper::getBand));
int totalRequest = domainResultList.stream().collect(Collectors.summingInt(HotRankHelper::getTotal));
// 获取峰值数据
HotRankHelper topHelper = domainResultList.get(0);
resultDetail.setMaxBand(topHelper.getBand());
resultDetail.setMaxBandTime(topHelper.getClock());
resultDetail.setDomain(topHelper.getDomain());
resultDetail.setTotalFlow(totalFlow);
resultDetail.setTotalRequest(Integer.toString(totalRequest));
resultList.add(resultDetail);
}
// 对集合进行排序:降序
resultList = resultList.stream().sorted(Comparator.comparing(HotRankDomainResult::getMaxBand).reversed())
.collect(Collectors.toList());
if (resultList.size() > 20) {
// 获取前20
resultList = resultList.subList(0, 20);
} System.out.println(">>>>>>>>>>>>>>sortEndTime::"+new Date());
return resultList;
}

mysql group by 查询非聚集列的更多相关文章

  1. PostgreSql之在group by查询下拼接列字符串

    首先创建group_concat聚集函数: CREATE AGGREGATE group_concat(anyelement) ( sfunc = array_append, -- 每行的操作函数,将 ...

  2. oracle中clob字段怎么查询非空列_20180517

    select * from uap_groupsynlogvo a where a.log_msg is not null ; 附加demo的建表脚本跟业务数据. 链接:https://pan.bai ...

  3. SQL Server 2014聚集列存储索引

    转发请注明引用和原文博客(http://www.cnblogs.com/wenBlog) 简介 之前已经写过两篇介绍列存储索引的文章,但是只有非聚集列存储索引,今天再来简单介绍一下聚集的列存储索引,也 ...

  4. SQL Server索引 (原理、存储)聚集索引、非聚集索引、堆 <第一篇>

    一.存储结构 在SQL Server中,有许多不同的可用排列规则选项. 二进制:按字符的数字表示形式排序(ASCII码中,用数字32表示空格,用68表示字母"D").因为所有内容都 ...

  5. SQL查询优化:详解SQL Server非聚集索引(转载)

    本文是转载,原文地址 http://tech.it168.com/a2011/1228/1295/000001295176.shtml 在SQL SERVER中,非聚集索引其实可以看作是一个含有聚集索 ...

  6. SQL Server 2014 聚集列存储

    SQL Server 自2012以来引入了列存储的概念,至今2016对列存储的支持已经是非常友好了.由于我这边线上环境主要是2014,所以本文是以2014为基础的SQL Server 的列存储的介绍. ...

  7. SQL Server 2016 —— 聚集列存储索引的功能增强

    作者 Jonathan Allen,译者         邵思华         发布于     2015年6月14日   聚集列存储索引(CC Index)是SQL Server 2014中两大最引 ...

  8. MySQL 排错-解决MySQL非聚合列未包含在GROUP BY子句报错问题

    排错-解决MySQL非聚合列未包含在GROUP BY子句报错问题 By:授客 QQ:1033553122   测试环境 win10 MySQL 5.7 问题描述: 执行类似以下mysql查询, SEL ...

  9. 使用聚集索引和非聚集索引对MySQL分页查询的优化

    内容摘录来源:MSSQL123 ,lujun9972.github.io/blog/2018/03/13/如何编写bash-completion-script/ 一.先公布下结论: 1.如果分页排序字 ...

随机推荐

  1. idea git提交代码步骤(转载)

    参考一: https://blog.csdn.net/u013452337/article/details/79956604

  2. MongoDB用户和密码登录

    一.MongoDB中内置角色 角色 介绍 read 提供读取所有非系统的集合(数据库) readWrite 提供读写所有非系统的集合(数据库)和读取所有角色的所有权限 dbAdmin 提供执行管理任务 ...

  3. Hadoop运行环境搭建

    Hadoop运行环境搭建 更改为阿里的Centos7的yum源 #下载wget yum -y install wget #echo 下载阿里云的yum源配置  Centos-7.repo wget - ...

  4. sourcetree跳过登录的方法

    sourcetree是款免费的Git可视化工具,对于版本库较小的Git项目进行管理非常方便.但是sourcetree安装后第一次使用需要登录bitbucket帐号(最新版),由于某些原因登录帐号有困难 ...

  5. 微博api接口登陆,获取信息,分享微博

    import json from datetime import datetime import MySQLdb import requests from flask import Flask, re ...

  6. Odoo销售模块

    转载请注明原文地址:https://www.cnblogs.com/ygj0930/p/10825988.html 一:销售模块 销售模块的用途: 1)管理销售团队.销售人员:维护销售产品: 2)管理 ...

  7. centos 6.5 忘记用户名和密码

    1,启动虚拟机,出现下面的倒计时界面时,按键盘上的e键 (说明:要确保光标此时已经在虚拟机内了,要不然,按了e键,也是在windows内,无效.e代表edit,启动前编辑) 2,进入如下后界面,再按e ...

  8. go mod开发模式设置

    文章要解决的仅仅是一个问题 当你使用go get 无论如何get不到所需的包的问题 第一步就是下载goland 新手极其推荐goland,因为直接使用gland几乎没有挫败感,使用其他工具可能要折腾好 ...

  9. Java基础--线程创建方式

    线程的创建主要有两种形式,通过继承Thread或者实现Runnable接口,本质上没有太大区别. /** * @date: 2019/7/16 **/ public class ThreadOne i ...

  10. 云打印 对Echo的Beta产品测试报告

    云打印 对Echo的Beta产品测试报告 课程名称:软件工程1916|W(福州大学) 团队名称: 云打印 作业要求: 项目Beta冲刺(团队) 作业目标:作业集合 团队队员 队员学号 队员姓名 个人博 ...