目录 一.问题 二.问题的原因 三.问题解决的办法 1. 扩大磁盘 2. 删除部分历史索引 3. 更改es设置 四.扩展 一.问题 最近在查看线上的 es,发现最近2天的索引没有副本,集群的状态也是为 yellow 的. 二.问题的原因 es 所在的服务器磁盘是还有剩余空间的.只不过磁盘使用了大概 89%,按道理来说应该是会继续使用的,并创建索引的副本的,我们经过查阅官方文档. cluster.routing.allocation.disk.watermark.low Controls the

[ type=cluster_block_exception, reason=index [ index_name ] FORBIDDEN/12/index read-only / allow delete (api) 由于磁盘使用率达到85%,导致es锁了索引,索引变成了只读模式,当有数据写入的时候就会报上面的错误,此时的索引处于只读状态,不可写入 index_name为索引名称,具体以日志显示为准 需要先清理本地磁盘,然后再进行下面的操作来解除索引的只读状态 解除索引只读状态: curl -

本章其实是ELK第二章的插入章节. 本章ES集群的多节点是docker启动在同一个虚拟机上 ===================================================================================== ELK系列的示例中,启动的是单个的ES节点. 系列文章: [ELK][docker][elasticsearch]1. 使用Docker和Elasticsearch+ kibana 5.6.9 搭建全文本搜索引擎应用 集群,安装ik分词

您好,python的请求es的http库是urllib3, 一个请求到贵司的es节点,想了解下,中间有哪些网关啊?冒昧推测,贵司的部分公共网关与python-urllib3的对接存在异常? 负载均衡(Server Load Balancer)

zabbix自带的模板里面有监控项,所以监控项就不用创建了,直接创建触发器就可以了,触发器细节如下: 名称:CPU使用率大于40% 严重性:严重 表达式:{121.201.54.50:system.cpu.util[,idle].last()}<60 注意:表达式是关键,如果想让服务器的CPU使用大于40%的时候报警,表达式这里就写60,一定要清楚这一点

ES各种节点的分工 1. 客户端节点 当主节点和数据节点配置都设置为false的时候,该节点只能处理路由请求,处理搜索,分发索引操作等,从本质上来说该客户节点表现为智能负载平衡器.独立的客户端节点在一个比较大的集群中是非常有用的,他协调主节点和数据节点,客户端节点加入集群可以得到集群的状态,根据集群的状态可以直接路由请求. 2. 数据节点 数据节点主要是存储索引数据的节点,主要对文档进行增删改查操作,聚合操作等.数据节点对cpu,内存,io要求较高, 在优化的时候需要监控数据节点的状态,当资源不

ES集群概念 集群 一个集群cluster由一个或者多个节点组成,具有相同的cluster.name,协同工作,分项数据和负载. 当有新的节点加入或者删除了一个节点时,集群回感知到并能够平衡数据. ElasticSearch中可以监控很多信息,有一个最重要的就是集群健康. 集群健康有三个状态:green(所有主要分片和复制分片都可用),yellow(所有主要分片可用,但不是所有复制分片都可用),red(不是所有的主要分片都可用). 节点 一个节点node就是一个ElasticSearch的实例.

内存使用率key:vm.memory.size[pused]

当发现某个分区下的inode使用率过大时,需要找到该分区下的某些目录里有哪些文件可以清理. 查找某个目录下一个月或两个月之前的文件,然后删除# find . -type f -mtime +30 |wc -l# find . -type f -mtime +60 |wc -l# find . -type f -mtime +30 -exec rm -f {} \;# find . -type f -mtime +60 -exec rm -f {} \; 释放inode缓存# sync# echo

当发现某个分区下的inode使用率过大时,需要找到该分区下的某些目录里有哪些文件可以清理. 查找某个目录下一个月或两个月之前的文件,然后删除# find . -type f -mtime +30 |wc -l# find . -type f -mtime +60 |wc -l# find . -type f -mtime +30 -exec rm -f {} \;# find . -type f -mtime +60 -exec rm -f {} \; 释放inode缓存# sync# echo

0x00 概述 Prometheus是继Kubernetes后第2个正式加入CNCF基金会的项目,容器和云原生领域事实的监控标准解决方案.在这次分享将从Prometheus的基础说起,学习和了解Prometheus强大的数据处理能力,了解如何使用Prometheus进行白盒和黑盒监控,以及Prometheus在规模化监控下的解决方案等.最后将从0开始构建完整的Kubernetes监控架构. 0x01 监控的目标 在<SRE:Google运维解密>一书中指出,监控系统需要能够有效的支持白盒监控和

Prometheus promQL查询语言 Prometheus提供了一种名为PromQL (Prometheus查询语言)的函数式查询语言,允许用户实时选择和聚合时间序列数据.表达式的结果既可以显示为图形,也可以在Prometheus的表达式浏览器中作为表格数据查看,或者通过HTTP API由外部系统使用. 准备工作 在进行查询,这里提供下我的配置文件如下 [root@node00 prometheus]# cat prometheus.yml # my global config globa

写一个脚本,计算100以内所有的奇数的和以及所有偶数的和,分别显示出来#! /bin/bashsum1=0for i in `seq 1 2 100`do sum1=$[$sum1+$i]doneecho $sum1 sum2=0for j in `seq 2 2 100`do sum2=$[$sum2+$j]doneecho $sum2 写一个脚本,利用RANDOM生成10个随机数,并且找出最大值和最小值 for i in `seq 1 10`do n[$i]=$RANDOM echo ${n

注意两个地方说法有出入,待实测! es可以根据磁盘使用情况来决定是否继续分配shard.默认设置是开启的,也可以通过api关闭:cluster.routing.allocation.disk.threshold_enabled: false 在开启的情况下,有两个重要的设置: cluster.routing.allocation.disk.watermark.low:控制磁盘最小使用率.默认85%.说明es在磁盘使用率达到85%的时候将会停止分配新的shard.也可以设置为一个绝对数值,比如50

最近es集群磁盘空间告警,日志又没地方可以迁移,然后申请了新的服务器,一次性加入8台新的服务器 新增了32个新的数据节点,至此,我们的主集群已经到达85个数据节点的规模,整个集群数据已达到PB级别,终于可以跟别人炫耀我是做大数据的了.O(∩_∩)O哈哈~ 但是随着集群节点的不断壮大,问题也随之而来,刚开始加入新节点后,发现所有数据分片都会在新节点上,但是过几天后,发现只有少部分在新节点上. 然后,发现新的数据节点磁盘才使用40%,就不再往这些新节点分配分片了.当时觉得很纳闷. 后来翻翻es文档才

1.集群状态red.yellow处理方法 1.red表示主分片数据不完整,通常时由于某个索引的主分片为分片unassigned,找出这个分片未分配的原因,解决即可: curl -XGET http://{ESIP}:9200/_cluster/health?level=indices 2.yellow表示所有主分片可用,但副本分片不完整,最常见的情景是单节点时,由于es默认是有1个副本,主分片和副本不能在同一个节点上,所以副本就是未分配unassigned: 2.elasticsearch出现u

Elasticsearch 是一个兼有搜索引擎和NoSQL数据库功能的开源系统,基于Java/Lucene构建,可以用于全文搜索,结构化搜索以及近实时分析.可以说Lucene是当今最先进,最高效的全功能开源搜索引擎框架. 说明: Lucene:只是一个框架,要充分利用它的功能,需要使用JAVA,并且在程序中集成Lucene,学习成本高,Lucene确实非常复杂. Elasticsearch 是 面向文档型数据库,这意味着它存储的是整个对象或者 文档,它不但会存储它们,还会为他们建立索引,这样你就

1.首先进入官网下载ES,如果下载最新之前的版本 点击past releases就行了. 2.解压后进入config修改配置文件elasticsearch.yml #集群名称 cluster.name: my-es #节点名称 node.name: node-1 #可竞争主节点 node.master: true #可存放数据 node.data: true #端口号 http.port: 9200 #通讯端口号 transport.tcp.port: 9300 #服务器地址 network.h

1 关于机器 配置. 内存:上亿的数据一般需要64G内存的服务器.劲量不要使用小于32G 内存的服务器. cpu:es 对cpu 要求依赖不如内存.一般要求2-8 核就可以了. 磁盘:es 对磁盘依赖严重.Lucene 底层 是基于磁盘存储.所以 劲量使用ssd.并且 io 模式 不要设置为 cfq(适用于机械硬盘).劲量使用deadline/noop scheduler 这两种模式.可以使用 raid 0.但是别的 格式的磁盘阵列对es 没有明显作用.es 分副本机制 本来就 有备份.避免 n

在介绍Meta更新流程前,我们先介绍一下ES中Meta的组成.存储方式和恢复方式. 1. Meta:ClusterState.MetaData.IndexMetaData Meta是用来描述数据的数据.在ES中,Index的mapping结构.配置.持久化状态等就属于meta数据,集群的一些配置信息也属于meta.这类meta数据非常重要,假如记录某个index的meta数据丢失了,那么集群就认为这个index不再存在了.ES中的meta数据只能由master进行更新,master相当于是集群的