1.集群监控

集群监控主要包括两个方面的内容,分别是集群健康情况和集群的运行状态

集群健康状态可以通过以下api获取:

http://ip:9200/_cluster/health?pretty

关键指标说明:

 status:
#集群状态,分为green、yellow和red。
number_of_nodes/number_of_data_nodes:
#集群的节点数和数据节点数。
active_primary_shards:
#集群中所有活跃的主分片数。
active_shards:
#集群中所有活跃的分片数。

relocating_shards:
#当前节点迁往其他节点的分片数量,通常为0,当有节点加入或者退出时该值会增加。
initializing_shards:
#正在初始化的分片。
unassigned_shards:
#未分配的分片数,通常为0,当有某个节点的副本分片丢失该值就会增加。
number_of_pending_tasks:
#是指主节点创建索引并分配shards等任务,如果该指标数值一直未减小代表集群存在不稳定因素。
active_shards_percent_as_number:
#集群分片健康度,活跃分片数占总分片数比例。
number_of_pending_tasks:
#pending task只能由主节点来进行处理,这些任务包括创建索引并将shards分配给节点。

集群状态信息主要包含整个集群的一些统计信息,例如文档数、分片数、资源使用情况等。

集群状态信息可以由以下api获取:

http://ip:9200/_cluster/stats?pretty

关键指标说明:

 indices.count:
#索引总数。

indices.shards.total:
#分片总数。

indices.shards.primaries:
#主分片数量。
docs.count:
#文档总数。
store.size_in_bytes:
#数据总存储容量。

segments.count:
#段总数。
nodes.count.total:
#总节点数。
nodes.count.data:
#数据节点数。
nodes. process. cpu.percent:
#节点CPU使用率。
fs.total_in_bytes:
#文件系统使用总容量。
fs.free_in_bytes:
#文件系统剩余总容量。

2.节点监控

节点监控主要针对各个节点,有很多指标对于保证ES集群的稳定运行非常重要。

可以通过以下api获取:

http://ip:9200/_nodes/stats?pretty

关键指标说明:

 name:
#节点名。
roles:
#节点角色。
indices.docs.count:
#索引文档数。
segments.count:
#段总数。
jvm.heap_used_percent:
#内存使用百分比。
thread_pool.{bulk, index, get, search}.{active, queue, rejected}:
#线程池的一些信息,包括bulk、index、get和search线程池,主要指标有active(激活)线程数,线程queue(队列)数和rejected(拒绝)线程数量。

以下一些指标是一个累加值,当节点重启之后会清零。

 indices.indexing.index_total:
#索引文档数。
indices.indexing.index_time_in_millis:
#索引总耗时。
indices.get.total:
#get请求数。
indices.get.time_in_millis:
#get请求总耗时。
indices.search.query_total:
#search总请求数。
indices.search.query_time_in_millis:
#search请求总耗时。indices.search.fetch_total:fetch操作总数量。
indices.search.fetch_time_in_millis:
#fetch请求总耗时。
jvm.gc.collectors.young.collection_count:
#年轻代垃圾回收次数。
jvm.gc.collectors.young.collection_time_in_millis:
#年轻代垃圾回收总耗时。
jvm.gc.collectors.old.collection_count:
#老年代垃圾回收次数。
jvm.gc.collectors.old.collection_time_in_millis:
#老年代垃圾回收总耗时。

一些需要计算的指标: 节点监控的计算指标主要分为两类,分别为请求速率指标和请求处理延迟指标,下面作具体介绍。

 index_per_min:
#每分钟索引请求数量。计算公式如下:
#索引请求率=(index_total两次采集差值)/(系统时间差值(ms))×60000 (公式1)
indexAverge_per_min:
#索引请求处理延迟。计算公式如下:
#索引延迟=(index_time_in_millis两次采集差值)/(index_total两次采集差值) (公式2)
get_per_min:
#每分钟get请求数量,计算公式如(公式1),更改相应参数。
getAverage_per_min:
#get请求处理延迟,计算公式如(公式2) ,更改相应参数。
merge_per_min:
#每分钟merge请求数量,计算公式如(公式1),更改相应参数。
mergeAverage_per_min:
#merge请求处理延迟,计算公式如(公式2) ,更改相应参数。
searchQuery_per_min:
#每分钟query请求数量,计算公式如(公式1),更改相应参数。
searchQueryAverage_per_min:
#query请求延迟,计算公式如(公式2) ,更改相应参数。
searchFetch_per_min:
#每分钟fetch请求数量,计算公式如(公式1),更改相应参数。
searchFetchAverage_per_min:
#fetch请求延迟,计算公式如(公式2) ,更改相应参数。
youngGc_per_min:
#每分钟young gc数量,计算公式如(公式1),更改相应参数。
youngGcAverage_per_min:
#young gc请求延迟,计算公式如(公式2) ,更改相应参数。
oldGc_per_min:
#每分钟old gc数量,计算公式如(公式1),更改相应参数。
oldGcAverage_per_min:
#old gc请求延迟,计算公式如(公式2) ,更改相应参数。

3.索引监控

索引监控指标主要针对单个索引,不过也可以通过“_all”对集群中所有索引进行监控。

节点监控指标可以通过以下api获取:

http://ip:9200/_stats?pretty

关键指标说明:

http://ip:9200/_stats?pretty。
#关键指标说明:
indexname.primaries.docs.count:
#索引文档数量。

以下一些指标是一个累加值,当节点重启之后会清零。

 indexname.primaries.indexing.index_total:
#索引文档数。
indexname.primaries.indexing.index_time_in_millis:
#索引总耗时。
indexname.primaries.get.total:
#get请求数。
indexname.primaries.get.time_in_millis:
#get请求总耗时。
indexname.primaries.search.query_total:
#search总请求数。
indexname.primaries.search.query_time_in_millis:
#search请求总耗时。indices.search.fetch_total:fetch操作总数量。
indexname.primaries.search.fetch_time_in_millis:
#fetch请求总耗时。
indexname.primaries.refresh.total:
#refresh请求总量。
indexname.primaries.refresh.total_time_in_millis:
#refresh请求总耗时。

indexname.primaries.flush.total:
#flush请求总量。
indexname.primaries.flush.total_time_in_millis:
#flush请求总耗时。

理解了上面的指标

就可以使用Prometheus和Grafana进行监控展示

下面是我们测试环境的Grafana上展示的Elasticsearch集群的状态

可以看到prometheus采集到的的指标信息还是比较全面的

 

Elasticsearch 监控指标解析的更多相关文章

  1. es相关监控指标梳理

    ###################ElasticSearch监控指标梳理########################### #author:lugh1 # #date:2021-09-26 # ...

  2. prometheus 监控ElasticSearch核心指标

    ES监控方案 本文主要讲述使用 Prometheus监控ES,梳理核心监控指标并构建 Dashboard ,当集群有异常或者节点发生故障时,可以根据性能图表以高效率的方式进行问题诊断,再对核心指标筛选 ...

  3. 渣渣菜鸡的 ElasticSearch 源码解析 —— 启动流程(下)

    关注我 转载请务必注明原创地址为:http://www.54tianzhisheng.cn/2018/08/12/es-code03/ 前提 上篇文章写完了 ES 流程启动的一部分,main 方法都入 ...

  4. 渣渣菜鸡的 ElasticSearch 源码解析 —— 启动流程(上)

    关注我 转载请务必注明原创地址为:http://www.54tianzhisheng.cn/2018/08/11/es-code02/ 前提 上篇文章写了 ElasticSearch 源码解析 -- ...

  5. Elasticsearch 监控

    导语 Elasticsearch(文中简称ES)是分布式全文搜索引擎,产品提供高可用.易扩展以及近实时的搜索能力,广泛应用于数据存储.搜索和实时分析.很多服务的可用性对ES重度依赖.因此,保障ES自身 ...

  6. 【0.2】【MySQL】常用监控指标及监控方法(转)

    [MySQL]常用监控指标及监控方法 转自:https://www.cnblogs.com/wwcom123/p/10759494.html  对之前生产中使用过的MySQL数据库监控指标做个小结. ...

  7. 【转载】apache kafka系列之-监控指标

    原文地址:http://blog.csdn.net/lizhitao/article/details/24581907 1.监控目标 1.当系统可能或处于亚健康状态时及时提醒,预防故障发生 2.报警提 ...

  8. awr相关指标解析

    awr相关指标解析 2016年11月11日 15:09

  9. apache kafka系列之-监控指标

    apache kafka中国社区QQ群:162272557 1.监控目标 1.当系统可能或处于亚健康状态时及时提醒,预防故障发生 2.报警提示 a.短信方式 b.邮件 2.监控内容 2.1 机器监控 ...

随机推荐

  1. 打算写一个《重学Node.js》系列,希望大家多多支持

    先放上链接吧,项目已经开始2周了:https://github.com/hellozhangran/happy-egg-server 想法 现在是2019年11月24日,还有人要开始学习Node.js ...

  2. .NET自动化对象映射

    对象自动映射工具是用来解决对象之间映射转换的类库,能很好地解决DTO和Model之间的相互映射赋值问题. 只要两个对象的属性具有相同名字(或者符合它规定的命名约定),对象自动映射工具就可以替我们自动在 ...

  3. ElasticSearch如何一次查询出全部数据—基于Scroll

    Elasticsearch 查询结果默认只显示10条,可以通过设置from及size来达到分页的效果(详见附3),但是 from + size <= 10,000,因为index.max_res ...

  4. 堆的python实现及其应用

    堆的概念 优先队列(priority queue)是一种特殊的队列,取出元素的顺序是按照元素的优先权(关键字)大小,而不是进入队列的顺序,堆就是一种优先队列的实现.堆一般是由数组实现的,逻辑上堆可以被 ...

  5. Chapter 02—Creating a dataset(Part3-补充材料Stat/Transfer)

    Stat/Transfer:在电子表格(worksheet),数据库(database),统计包(statistical package)间进行数据转换,具有简单高效的特点. 资料来源于:http:/ ...

  6. Nginx+MySQL+PHP+Redis多机部署(测试发布discuz论坛)

    链接:LNMP+Redis单机部署 1.实战多机部署环境 nginx服务器: 192.168.1.3 php服务器:    192.168.1.4 mysql服务器: 192.168.1.10 red ...

  7. WebGL简易教程(十四):阴影

    目录 1. 概述 2. 示例 2.1. 着色器部分 2.1.1. 帧缓存着色器 2.1.2. 颜色缓存着色器 2.2. 绘制部分 2.2.1. 整体结构 2.2.2. 具体改动 3. 结果 4. 参考 ...

  8. mysql那些事(2)时间类型数据如何存储

    几乎每次数据库建模的时候,都会遇到时间类型数据存储的问题. mysql存储时间通常选择这四种类型:datetime.timestamp.int和bigint四种方式,到底使用什么类型,需要看具体的业务 ...

  9. js实现冒泡排序(bubble sort)快速排序(quick sort)归并排序(merge sort)

    排序问题相信大家都比较熟悉了.用js简单写了一下几种常用的排序实现.其中使用了es6的一些语法,并且不仅限于数字--支持各种类型的数据的排序.那么直接上代码: function compare (a, ...

  10. SpringBoot入门简介(一)

    1.SpringBoot简介 1.1 什么是Spring 随着动态语言的流行 (Ruby.Groovy.Scala.Node.js),Java 的开发显得格外的笨重:繁多的配置.低下的开发效率.复杂的 ...