本文分享自华为云社区《GaussDB(DWS)性能调优:Sort+Groupagg聚集引起的性能瓶颈案例》,作者: O泡果奶~ 。

本文针对SQL语句长时间执行不出来,且verbose执行计划中出现Sort+GroupAgg聚集方式的案例进行分析。

1、【问题描述】

语句执行时间过长,2300s+也无法得出结果。从verbose执行计划可以看出存在sort聚合。

2、【原始语句】

SELECT /*+ set global(agg_redistribute_enhancement on) set global (best_agg_plan 3)*/

dm_ebg_glb_kpi_sum_w_v."na_level_name",

dm_ebg_glb_kpi_sum_w_v."na_level",

dm_ebg_glb_kpi_sum_w_v."sales_lv3_prod_list_code",

dm_ebg_glb_kpi_sum_w_v."sales_lv1_prod_list_en_name",

dm_ebg_glb_kpi_sum_w_v."sales_lv2_prod_list_en_name",

dm_ebg_glb_kpi_sum_w_v."sales_lv1_prod_list_cn_name",

dm_ebg_glb_kpi_sum_w_v."sales_lv0_prod_list_cn_name",

dm_ebg_glb_kpi_sum_w_v."sales_lv0_prod_list_code",

dm_ebg_glb_kpi_sum_w_v."sales_lv1_prod_list_code",

dm_ebg_glb_kpi_sum_w_v."sales_lv3_prod_list_en_name",

dm_ebg_glb_kpi_sum_w_v."sales_lv2_prod_list_cn_name",

dm_ebg_glb_kpi_sum_w_v."sales_lv3_prod_list_cn_name",

dm_ebg_glb_kpi_sum_w_v."sales_lv0_prod_list_en_name",

dm_ebg_glb_kpi_sum_w_v."sales_lv2_prod_list_code",

dm_ebg_glb_kpi_sum_w_v."period_id",

dm_ebg_glb_kpi_sum_w_v."year",

dm_ebg_glb_kpi_sum_w_v."month",

dm_ebg_glb_kpi_sum_w_v."report_category_cn_name",

dm_ebg_glb_kpi_sum_w_v."report_category_en_name",

dm_ebg_glb_kpi_sum_w_v."currency_code",

dm_ebg_glb_kpi_sum_w_v."exchange_rate_type_cn_name",

dm_ebg_glb_kpi_sum_w_v."exchange_rate_type_en_name",

dm_ebg_glb_kpi_sum_w_v."report_item_code",

dm_ebg_glb_kpi_sum_w_v."report_item_cn_name",

dm_ebg_glb_kpi_sum_w_v."report_item_en_name",

dm_ebg_glb_kpi_sum_w_v."report_item_type",

dm_ebg_glb_kpi_sum_w_v."report_item_flag",

dm_ebg_glb_kpi_sum_w_v."region_code",

dm_ebg_glb_kpi_sum_w_v."region_cn_name",

dm_ebg_glb_kpi_sum_w_v."region_en_name",

dm_ebg_glb_kpi_sum_w_v."oversea_flag",

dm_ebg_glb_kpi_sum_w_v."repoffice_code",

dm_ebg_glb_kpi_sum_w_v."repoffice_cn_name",

dm_ebg_glb_kpi_sum_w_v."repoffice_en_name",

dm_ebg_glb_kpi_sum_w_v."ebg_focus_cn_name",

dm_ebg_glb_kpi_sum_w_v."ebg_focus_en_name",

dm_ebg_glb_kpi_sum_w_v."lv0_prod_rnd_team_code",

dm_ebg_glb_kpi_sum_w_v."lv0_prod_rd_team_cn_name",

dm_ebg_glb_kpi_sum_w_v."lv0_prod_rd_team_en_name",

dm_ebg_glb_kpi_sum_w_v."lv1_prod_rnd_team_code",

dm_ebg_glb_kpi_sum_w_v."lv1_prod_rd_team_cn_name",

dm_ebg_glb_kpi_sum_w_v."lv1_prod_rd_team_en_name",

dm_ebg_glb_kpi_sum_w_v."lv2_prod_rnd_team_code",

dm_ebg_glb_kpi_sum_w_v."lv2_prod_rd_team_cn_name",

dm_ebg_glb_kpi_sum_w_v."lv2_prod_rd_team_en_name",

dm_ebg_glb_kpi_sum_w_v."lv3_prod_rnd_team_code",

dm_ebg_glb_kpi_sum_w_v."lv3_prod_rd_team_cn_name",

dm_ebg_glb_kpi_sum_w_v."lv3_prod_rd_team_en_name",

dm_ebg_glb_kpi_sum_w_v."named_account_flag",

dm_ebg_glb_kpi_sum_w_v."domtc_entps_indu_class_code",

dm_ebg_glb_kpi_sum_w_v."domtc_entps_indu_class_cn_name",

dm_ebg_glb_kpi_sum_w_v."domtc_entps_indu_class_en_name",

dm_ebg_glb_kpi_sum_w_v."industry_class_code",

dm_ebg_glb_kpi_sum_w_v."industry_class_cn_name",

dm_ebg_glb_kpi_sum_w_v."industry_class_en_name",

dm_ebg_glb_kpi_sum_w_v."sub_industry_class_code",

dm_ebg_glb_kpi_sum_w_v."sub_industry_class_cn_name",

dm_ebg_glb_kpi_sum_w_v."sub_industry_class_en_name",

dm_ebg_glb_kpi_sum_w_v."focus_industry_cn_name",

dm_ebg_glb_kpi_sum_w_v."focus_industry_en_name",

dm_ebg_glb_kpi_sum_w_v."sales_mode_code",

dm_ebg_glb_kpi_sum_w_v."sales_mode_cn_name",

dm_ebg_glb_kpi_sum_w_v."sales_mode_en_name",

SUM(dm_ebg_glb_kpi_sum_w_v."ptd_amt") as "ptd_amt",

SUM(dm_ebg_glb_kpi_sum_w_v."py_ptd_amt") as "py_ptd_amt",

SUM(dm_ebg_glb_kpi_sum_w_v."pp_ptd_amt") as "pp_ptd_amt",

SUM(dm_ebg_glb_kpi_sum_w_v."qtd_amt") as "qtd_amt",

SUM(dm_ebg_glb_kpi_sum_w_v."py_qtd_amt") as "py_qtd_amt",

SUM(dm_ebg_glb_kpi_sum_w_v."pp_qtd_amt") as "pp_qtd_amt",

SUM(dm_ebg_glb_kpi_sum_w_v."ytd_amt") as "ytd_amt",

SUM(dm_ebg_glb_kpi_sum_w_v."py_ytd_amt") as "py_ytd_amt",

SUM(dm_ebg_glb_kpi_sum_w_v."py_all_ytd_amt") as "py_all_ytd_amt",

SUM(dm_ebg_glb_kpi_sum_w_v."end_bal_amt") as "end_bal_amt",

SUM(dm_ebg_glb_kpi_sum_w_v."cp_open_bal_amt") as "cp_open_bal_amt",

SUM(dm_ebg_glb_kpi_sum_w_v."pq_end_bal_amt") as "pq_end_bal_amt",

SUM(dm_ebg_glb_kpi_sum_w_v."cy_open_bal_amt") as "cy_open_bal_amt",

SUM(dm_ebg_glb_kpi_sum_w_v."py_end_bal_amt") as "py_end_bal_amt"

FROM fin_dmr_ebgdis.dm_ebg_glb_kpi_sum_w_v

where 1 = 1

and 1 = 1

AND dm_ebg_glb_kpi_sum_w_v."period_id" = 202302

group by dm_ebg_glb_kpi_sum_w_v."na_level_name",

dm_ebg_glb_kpi_sum_w_v."na_level",

dm_ebg_glb_kpi_sum_w_v."sales_lv3_prod_list_code",

dm_ebg_glb_kpi_sum_w_v."sales_lv1_prod_list_en_name",

dm_ebg_glb_kpi_sum_w_v."sales_lv2_prod_list_en_name",

dm_ebg_glb_kpi_sum_w_v."sales_lv1_prod_list_cn_name",

dm_ebg_glb_kpi_sum_w_v."sales_lv0_prod_list_cn_name",

dm_ebg_glb_kpi_sum_w_v."sales_lv0_prod_list_code",

dm_ebg_glb_kpi_sum_w_v."sales_lv1_prod_list_code",

dm_ebg_glb_kpi_sum_w_v."sales_lv3_prod_list_en_name",

dm_ebg_glb_kpi_sum_w_v."sales_lv2_prod_list_cn_name",

dm_ebg_glb_kpi_sum_w_v."sales_lv3_prod_list_cn_name",

dm_ebg_glb_kpi_sum_w_v."sales_lv0_prod_list_en_name",

dm_ebg_glb_kpi_sum_w_v."sales_lv2_prod_list_code",

dm_ebg_glb_kpi_sum_w_v."period_id",

dm_ebg_glb_kpi_sum_w_v."year",

dm_ebg_glb_kpi_sum_w_v."month",

dm_ebg_glb_kpi_sum_w_v."report_category_cn_name",

dm_ebg_glb_kpi_sum_w_v."report_category_en_name",

dm_ebg_glb_kpi_sum_w_v."currency_code",

dm_ebg_glb_kpi_sum_w_v."exchange_rate_type_cn_name",

dm_ebg_glb_kpi_sum_w_v."exchange_rate_type_en_name",

dm_ebg_glb_kpi_sum_w_v."report_item_code",

dm_ebg_glb_kpi_sum_w_v."report_item_cn_name",

dm_ebg_glb_kpi_sum_w_v."report_item_en_name",

dm_ebg_glb_kpi_sum_w_v."report_item_type",

dm_ebg_glb_kpi_sum_w_v."report_item_flag",

dm_ebg_glb_kpi_sum_w_v."region_code",

dm_ebg_glb_kpi_sum_w_v."region_cn_name",

dm_ebg_glb_kpi_sum_w_v."region_en_name",

dm_ebg_glb_kpi_sum_w_v."oversea_flag",

dm_ebg_glb_kpi_sum_w_v."repoffice_code",

dm_ebg_glb_kpi_sum_w_v."repoffice_cn_name",

dm_ebg_glb_kpi_sum_w_v."repoffice_en_name",

dm_ebg_glb_kpi_sum_w_v."ebg_focus_cn_name",

dm_ebg_glb_kpi_sum_w_v."ebg_focus_en_name",

dm_ebg_glb_kpi_sum_w_v."lv0_prod_rnd_team_code",

dm_ebg_glb_kpi_sum_w_v."lv0_prod_rd_team_cn_name",

dm_ebg_glb_kpi_sum_w_v."lv0_prod_rd_team_en_name",

dm_ebg_glb_kpi_sum_w_v."lv1_prod_rnd_team_code",

dm_ebg_glb_kpi_sum_w_v."lv1_prod_rd_team_cn_name",

dm_ebg_glb_kpi_sum_w_v."lv1_prod_rd_team_en_name",

dm_ebg_glb_kpi_sum_w_v."lv2_prod_rnd_team_code",

dm_ebg_glb_kpi_sum_w_v."lv2_prod_rd_team_cn_name",

dm_ebg_glb_kpi_sum_w_v."lv2_prod_rd_team_en_name",

dm_ebg_glb_kpi_sum_w_v."lv3_prod_rnd_team_code",

dm_ebg_glb_kpi_sum_w_v."lv3_prod_rd_team_cn_name",

dm_ebg_glb_kpi_sum_w_v."lv3_prod_rd_team_en_name",

dm_ebg_glb_kpi_sum_w_v."named_account_flag",

dm_ebg_glb_kpi_sum_w_v."domtc_entps_indu_class_code",

dm_ebg_glb_kpi_sum_w_v."domtc_entps_indu_class_cn_name",

dm_ebg_glb_kpi_sum_w_v."domtc_entps_indu_class_en_name",

dm_ebg_glb_kpi_sum_w_v."industry_class_code",

dm_ebg_glb_kpi_sum_w_v."industry_class_cn_name",

dm_ebg_glb_kpi_sum_w_v."industry_class_en_name",

dm_ebg_glb_kpi_sum_w_v."sub_industry_class_code",

dm_ebg_glb_kpi_sum_w_v."sub_industry_class_cn_name",

dm_ebg_glb_kpi_sum_w_v."sub_industry_class_en_name",

dm_ebg_glb_kpi_sum_w_v."focus_industry_cn_name",

dm_ebg_glb_kpi_sum_w_v."focus_industry_en_name",

dm_ebg_glb_kpi_sum_w_v."sales_mode_code",

dm_ebg_glb_kpi_sum_w_v."sales_mode_cn_name",

dm_ebg_glb_kpi_sum_w_v."sales_mode_en_name" limit 200

3、【性能分析】

由于语句长时间无法执行完毕,通过其verbose执行计划中的E-rows可以看出,由于较小且去重后行数变化不大,优化器采用了Sort+GroupAgg的聚集方式。

通常情况下,Sort+GroupAgg性能并不如Hashagg,此时,可以通过利用

set enable_sort = off;

或是

+set [gloabal] (enable_sort off)

来避免使用Sort+GroupAgg聚集方式。

补充:Sort+GroupAgg与Hashagg对比

 

Hashagg

Sort+GroupAgg

执行方式

每行元组根据聚集列散列建立hash表,进行去重比较

所有元组排序后进行聚集去重操作

限制

所有聚集列支持hash散列

所有聚集列支持排序

优势

通过哈希散列比较可以快速定位到重复元组

输出结果保持有序,有利于后续有序操作

劣势

受初始散列桶个数影响较大

如果初始集较大,Sort性能较差

适合使用的情况

去重后行数较少的场景

相比Hashagg,当去重后行数和输入行数差不多,且输入行数较少时适用

从上图中可以看出,调优后语句执行时间下降为22s+,性能大大提高。从performance计划可以看出,原始SQL语句verbose计划中E-rows不准确,导致优化器选择了Sort+GroupAgg聚集方式,从而使得语句执行性能下降。

附件enable_sort-1为调优前verbose执行计划,附件enable_sort-2为调优后performance执行计划

点击关注,第一时间了解华为云新鲜技术~

GaussDB(DWS)性能调优:Sort+Groupagg聚集引起的性能瓶颈案例的更多相关文章

  1. 十八般武艺玩转GaussDB(DWS)性能调优:SQL改写

    摘要:本文将系统介绍在GaussDB(DWS)系统中影响性能的坏味道SQL及SQL模式,帮助大家能够从原理层面尽快识别这些坏味道SQL,在调优过程中及时发现问题,进行整改. 数据库的应用中,充斥着坏味 ...

  2. 十八般武艺玩转GaussDB(DWS)性能调优(三):好味道表定义

    摘要:表结构设计是数据库建模的一个关键环节,表定义好坏直接决定了集群的有效容量以及业务查询性能,本文从产品架构.功能实现以及业务特征的角度阐述在GaussDB(DWS)的中表定义时需要关注的一些关键因 ...

  3. 十八般武艺玩转GaussDB(DWS)性能调优:路径干预

    摘要:路径生成是表关联方式确定的主要阶段,本文介绍了几个影响路径生成的要素:cost_param, scan方式,join方式,stream方式,并从原理上分析如何干预路径的生成. 一.cost模型选 ...

  4. 数据库性能调优之始: analyze统计信息

    摘要:本文简单介绍一下什么是统计信息.统计信息记录了什么.为什么要收集统计信息.怎么收集统计信息以及什么时候收集统计信息. 1 WHY:为什么需要统计信息 1.1 query执行流程 下图描述了Gau ...

  5. Java性能调优(一):调优的流程和程序性能分析

     https://blog.csdn.net/Oeljeklaus/article/details/80656732 Java性能调优 随着应用的数据量不断的增加,系统的反应一般会越来越慢,这个时候我 ...

  6. 大厂运维必备技能:PB级数据仓库性能调优

    摘要:众所周知,数据量大了之后,性能是大家关注的一点,所以我们在业务开发的时候,特别关注性能,做为一个架构师,必须对性能要了解,要懂.才能设计出高性能的业务系统. 一.GaussDB分布式架构 所谓集 ...

  7. 第0/24周 SQL Server 性能调优培训引言

    大家好,这是我在博客园写的第一篇博文,之所以要开这个博客,是我对MS SQL技术学习的一个兴趣记录. 作为计算机专业毕业的人,自己对技术的掌握总是觉得很肤浅,博而不专,到现在我才发现自己的兴趣所在,于 ...

  8. SQL Server 列存储性能调优(翻译)

    原文地址:http://social.technet.microsoft.com/wiki/contents/articles/4995.sql-server-columnstore-performa ...

  9. 性能调优:理解Set Statistics IO输出

    性能调优是DBA的重要工作之一.很多人会带着各种性能上的问题来问我们.我们需要通过SQL Server知识来处理这些问题.经常被问到的一个问题是:早上这个存储过程运行时间还是可以的,但到了晚上就很慢很 ...

  10. 在SQL Server 2016里使用查询存储进行性能调优

    作为一个DBA,排除SQL Server问题是我们的职责之一,每个月都有很多人给我们带来各种不能解释却要解决的性能问题. 我就多次听到,以前的SQL Server的性能问题都还好且在正常范围内,但现在 ...

随机推荐

  1. [ABC310D] Peaceful Teams 题解

    Peaceful Teams 题目大意 将 \(n\) 个人分成 \(T\) 组,要求每组不能包含敌对的人,问有多少种分法. 思路分析 注意到 \(n,T\) 均很小,考虑爆搜. 注意到直接枚举会枚举 ...

  2. Net 高级调试之三:类型元数据介绍(同步块表、类型句柄、方法描述符等)

    一.简介 今天是<Net 高级调试>的第三篇文章,压力还是不小的.上一篇文章,我们浅浅的谈了谈 CLR 和 Windows 加载器是如何加载 Net 程序集的,如何找到程序的入口点的,有了 ...

  3. 2023 SHCTF-校外赛道 WEB WP

    WEEK1 babyRCE <?php $rce = $_GET['rce']; if (isset($rce)) { if (!preg_match("/cat|more|less| ...

  4. 美团面试:Redis 除了缓存还能做什么?可以做消息队列吗?

    这是一道面试中常见的 Redis 基础面试题,主要考察求职者对于 Redis 应用场景的了解. 即使不准备面试也建议看看,实际开发中也能够用到. 内容概览: Redis 除了做缓存,还能做什么? 分布 ...

  5. 3款免费又好用的 Docker 可视化管理工具

    前言 Docker提供了命令行工具(Docker CLI)来管理Docker容器.镜像.网络和数据卷等Docker组件.我们也可以使用可视化管理工具来更方便地查看和管理Docker容器.镜像.网络和数 ...

  6. GitHub Actions 入门指南

    前言 GitHub Actions 可以构建一组自动化的工作流程,并提供了拉取请求.合并分支等事件来触发他们.一般成熟的开源项目会在每个版本发布时提供 releases ,它就是通过 Actions ...

  7. 双指针:盛最多水的容器(4.18leetcode每日一题)

    给你 n 个非负整数 a1,a2,...,an,每个数代表坐标中的一个点 (i, ai) .在坐标内画 n 条垂直线,垂直线 i 的两个端点分别为 (i, ai) 和 (i, 0).找出其中的两条线, ...

  8. [编程]UML语言:理论之光与实践之惑

    UML介绍及现状 UML(统一建模语言)是软件工程领域中具有悠久历史的一种模型化语言工具.它通过标准化的图形符号体系,使得软件系统的蓝图能够被更直观地表达出来.UML诞生于20世纪90年代,经过多年积 ...

  9. 在TCP四次挥手中,为什么客户端发送FIN后,还可以发送报文

    在TCP四次挥手中,为什么客户端发送FIN后,还可以发送报文 首先回顾下四次挥手的过程. 第一次挥手:客户端停止发送数据,主动关闭 TCP 连接,处于FIN_WAIT1状态,等待服务端确认. 第二次挥 ...

  10. MongoDB (操作数据库,操作集合,操作文档)的笔记

    https://www.bilibili.com/video/BV1gV411H7jN/?spm_id_from=333.999.0.0&vd_source=92305fa48ea41cb7b ...