1、什么是聚合分析?

  答:聚合分析,英文为Aggregation,是es除搜索功能外提供的针对es数据做统计分析的功能。特点如下所示:

    a、功能丰富,提供Bucket、Metric、Pipeline等多种分析方式,可以满足大部分的分析需求。
    b、实时性高,所有的计算结果都是即时返回的,而hadoop等大数据系统一般都是T+1级别的。

2、聚合分析的分类。为了便于理解,es将聚合分析主要分为如下4类。

  答:a、Bucket,分桶类型,类似SQL语法中的group bu语法。
    b、Metric,指标分析类型,如计算最大值,最小值,平均值等等。
    c、Pipeline,管道分析类型,基于上一级的聚合分析结果进行再分析。
    d、Matrix,矩阵分析类型。

3、Metric聚合分析的详细理解。主要分为如下两类。

  答:a、单值分析,只输出一个分析结果。min(最小值)、max(最大值)、avg(平均值)、sum(总和)、cardinality(计算数目的,类似sql中的distinct count)。
    b、多值分析,输出多个分析结果。stats(多样统计分析,可以一次性得到最小值,最大值,平均值,中值等等)、extended stats、percentile(百分位数的统计)、percentile rank、top hits(排在前面的结果列表)。

4、Metric聚合分析中单值分析的使用,如下所示:

返回数值类字段的最小值。

返回数值类字段的最大值、返回数值类字段的平均值。

返回数值字段的总和,一次返回多个聚合结果。

cardinality,意思为集合的势,或者基数,是指不同数值的个数,类似sql中的distinct count概念。

5、Metric聚合分析中多值分析的使用。如下所示:

多值分析之Stats,返回一系列数值类型的统计值,包含min、max、avg、sum和count。
多值分析之Extended Stats,对stats的扩展,包含了更多的统计数据,如方差,标准差等等。

多值分析之percentile,百分位数统计,percentiles是关键词。

多值分析之top hits,一般用于分桶后获取该桶内最匹配的顶部文档列表,即详情数据。

5、Bucket,分桶类型,类似SQL语法中的group bu语法。Bucked,意为桶,即按照一定的规则将文档分配到不同的桶中,达到分类分析的目的。按照Bucket的分桶策略,常见的Bucket聚合分析如下所示。Terms、Range、Date Range、Histogram、Date Histogram。

Bucket聚合分析之Terms,该分桶策略最简单了,直接按照term来分桶,如果是text类型,则按照分词后的结果分桶。

Bucket聚合分析之Range,通过指定数值的范围来设定分桶规则。

Bucket聚合分析之Date Range,通过指定日期的范围来设定分桶规则。

Bucket聚合分析之Histogram,直方图,以固定间隔的策略来分割数据。

Bucket聚合分析之Date Histogram,针对日期的直方图或者柱状图,是时许数据分析中常用的聚合分析类型。

6、bucket和metric聚合分析结合使用。bucket和metric聚合分析整合,Bucket聚合分析允许通过添加子分析来进一步进行分析,该子分析可以是Bucket也可以是Metric。这也使得es的聚合分析能力变得异常强大。

bucket和metric聚合分析整合,分桶后进行数据分析。

7、Pipeline聚合分析,针对聚合分析的结果再次进行聚合分析,而且支持链式调用。所有的Pipeline都会存在buckets_path关键词的。指定的是这个Pipeline聚合分析要去分析上面的哪一个聚合分析的结果。

Pipeline的分析结果会输出到原结果中,根据输出位置的不同,分为以下两类。
  a、Parent结果内嵌到现有的聚合分析结果中,Derivative(求导数)、Moving Average(移动平均)、Cumulative Sum(累计求和)。
  b、Sibling结果与现有聚合分析结果同级。Max/Min/Avg/Sum Bucket(即Max Bucket,Min Bucket,Avg Bucket,Sum Bucket),Stats/Extended Stats Bucket(Stats  Bucket,Extended Stats Bucket),Percentiles Bucket。

8、Sibling结果与现有聚合分析结果同级,下面展示的找出所有Bucket中值最小的Bucket名称和值。如果是最大、平均值、求和,将min_bucket换成max_bucket、avg_bucket、sum_bucket即可。

如果是Stats  Bucket就是对前面的结果进行多值分。

如果是Extended Stats Bucket就是对前面的结果进行多指标多值分析。

如果是Percentiles Bucket就是分析前面的聚合分析输出的结果。使用百分比进行展示。只要将min_bucket换成对应的bucket即可。

9、Parent结果内嵌到现有的聚合分析结果中,所在位置和所要分析的同一级,Derivative(求导数)、Moving Average(移动平均)、Cumulative Sum(累计求和)。

Pipeline聚合分析Parent之Derivative。计算Bucket值的导数。

Pipeline聚合分析Parent之moving_avg。计算Bucket值的移动平均值。

Pipeline聚合分析Parent之cumulative_sum。计算Bucket值的累计加和。

10、Elasticsearch聚合分析的作用范围,es聚合分析默认作用范围是query的结果集,可以通过如下的方式改变其作用范围。filer、post_filter、global。

filter为某个聚合分析设定过滤条件,从而在不更改整体query语句的情况下修改了作用范围。

post-filter作用于文档过滤,但在聚合分析后生效。

global,无视query过滤条件,基于全部文档进行分析。 在做整体和部分之间的对比的时候就可以使用global了哦。

11、Elasticsearch的排序。可以使用自带的关键数据进行排序。比如,_count文档数、_key按照key值排序。可以使用order关键词进行排序操作。

更深层次的嵌套,借用聚合分析的数值进行排序,必须接子聚合分析的结果进行排序。

再牛逼的案例,理论,都没有官网的牛逼,下面贴一下,如何去官网学习。

找到这里,自己可以巴拉巴拉,看自己需要的版本,对应的知识点。

作者:别先生

博客园:https://www.cnblogs.com/biehongli/

如果您想及时得到个人撰写文章以及著作的消息推送,可以扫描上方二维码,关注个人公众号哦。

Elasticsearch 6.x版本全文检索学习之聚合分析入门的更多相关文章

  1. Elasticsearch 6.x版本全文检索学习之分布式特性介绍

    1.Elasticsearch 6.x版本全文检索学习之分布式特性介绍. 1).Elasticsearch支持集群默认,是一个分布式系统,其好处主要有两个. a.增大系统容量,如内存.磁盘.使得es集 ...

  2. Elasticsearch 6.x版本全文检索学习之Search API

    Elasticsearch 6.x版本全文检索学习之Search API. 1).Search API,实现对es中存储的数据进行查询分析,endpoind为_search,如下所示. 方式一.GET ...

  3. Elasticsearch 6.x版本全文检索学习之数据建模

    1.什么是数据建模. 答:数据建模,英文为Data Modeling,为创建数据模型的过程.数据模型Data Mdel,对现实世界进行抽象描述的一种工具和方法,通过抽象的实体及实体之间联系的形式去描述 ...

  4. Elasticsearch 6.x版本全文检索学习之倒排索引与分词、Mapping 设置

    Beats,Logstash负责数据收集与处理.相当于ETL(Extract Transform Load).Elasticsearch负责数据存储.查询.分析.Kibana负责数据探索与可视化分析. ...

  5. Elasticsearch 6.x版本全文检索学习之集群调优建议

    1.系统设置要到位,遵照官方建议设置所有的系统参数. https://www.elastic.co/guide/en/elasticsearch/reference/6.7/setup.html 部署 ...

  6. Elasticsearch 之聚合分析入门

    本文主要介绍 Elasticsearch 的聚合功能,介绍什么是 Bucket 和 Metric 聚合,以及如何实现嵌套的聚合. 首先来看下聚合(Aggregation): 什么是 Aggregati ...

  7. ElasticStack学习(八):ElasticSearch索引模板与聚合分析初探

    一.Index Template与Dynamic Template的概念 1.Index Template:它是用来根据提前设定的Mappings和Settings,并按照一定的规则,自动匹配到新创建 ...

  8. Elasticsearch全文检索学习

    ElasticSearch官方网址:https://www.elastic.co ElasticSearch官方网址(中文):https://www.elastic.co/cn/ Elasticsea ...

  9. Elasticsearch学习笔记(三)聚合分析Agg

    一.设置fielddata PUT /index/_mapping/type {     "properties":{          "fieldName" ...

随机推荐

  1. nyoj 737 石子合并(区间DP)

    737-石子合并(一) 内存限制:64MB 时间限制:1000ms 特判: No通过数:28 提交数:35 难度:3 题目描述:     有N堆石子排成一排,每堆石子有一定的数量.现要将N堆石子并成为 ...

  2. Winform中实现向窗体中拖放照片并显示以及拖放文件夹显示树形结构(附代码下载)

    场景 向窗体中拖拽照片并显示效果 向窗体中拖拽文件夹并显示树形结构效果 注: 博客主页: https://blog.csdn.net/badao_liumang_qizhi 关注公众号 霸道的程序猿 ...

  3. Java问题记录——循环里的二次判断与状态更新

    Java问题记录——循环里的二次判断与状态更新 摘要:本文主要记录了在循环操作时可能出现的问题. 问题重现 在使用循环结构时,如果使用了定时任务,或者代码会多次调用循环结构,可能会导致有些对象会被循环 ...

  4. JS---封装缓动(变速)动画函数---增加多个任意多个属性

    封装缓动动画函数---增加多个任意多个属性 在原来缓动动画函数,增加任意一个属性的基础上,做了如下改变 1. 原来function animate(element, attr, target),三个变 ...

  5. cesium计算当前地图范围extent以及近似当前层级zoom

    前言 cesium 官网的api文档介绍地址cesium官网api,里面详细的介绍 cesium 各个类的介绍,还有就是在线例子:cesium 官网在线例子,这个也是学习 cesium 的好素材. 内 ...

  6. nfs 所有的版本的 RFC 整理; nfs 所有版本对比;

    下面是针对 nfs 所有的版本,我们可以通过不同的RFC 进行详细看其RFC的细节来进行对比: 下面是备忘一些NFS RFC 的链接: https://datatracker.ietf.org/doc ...

  7. centos7配置Memcached

    Memcached是一套分布式的高速缓存系统,用于提升网站访问速度,尤其对于一些大型的.需要频繁访问数据库的网站,访问速度提升效果十分显著. 1.安装memcached yum install mem ...

  8. 微信支付 第三篇 微信调用H5页面进行支付

    上一篇讲到拿到了 预支付交易标识 wx251xxxxxxxxxxxxxxxxxxxxxxxxxxxxx078700 第四步,是时候微信内H5调起支付了! 先准备网页端接口请求参数列表 微信文档中已经明 ...

  9. 如何使用CAD删除命令?怎么删除图纸中线段

    大家经常使用CAD制图软件来绘制图纸,那在绘制图纸的过程中有时候会出现一些问题,就是图纸中不小心多绘制了一个线段,那要怎么办呢?如何使用CAD删除命令?怎么删除图纸中线段呢?那下面小编就来教教大家具体 ...

  10. bootstrap-table 常用总结-树形结构(展开和折叠)

    今天在工作的时候,遇到了一个需求,就是需要一键展开或者关闭树形结构.关于树形结构的不是很熟悉,然后去百度,结果也不是很准确.最后经过Google才找到.下面分享给大家 直接看代码: var flag ...