节点发现

启动一个Elasticsearch节点时,该节点会开始寻找具有相同集群名字并且可见的主节点。如果找到主节点,该节点加入一个已经组成了的集群;如果没有找到,该节点成为主节点(如果配置允许)。形成集群和寻找节点的过程称为发现
发现模块有两个目的:

  • 选出一个主节点
  • 发现集群中的新节点

发现的类型

默认没有安装额外插件的情况下,Elasticsearch允许使用Zen发现,它提供了多播和单播发现。

选择多播还是单播,首先需要确定网络是够处理多播消息。如果可以,使用多播更简单。如果不能处理多播,使用单播发现。单播发现更加安全:不想任何节点误加入你的集群中。

主节点

主节点检查所有其他节点,看它们是否有响应(其他节点也ping主节点)。主节点还将接受加入集群的新节点。如果主节点断开连接了,其余节点将从中选择一个新的主节点,这些过程都是基于配置自动完成的。

配置主节点和数据节点

默认情况下,Elasticsearch允许节点同时成为主节点和数据节点。

主节点的选取的配置

如果一个多节点的集群因为某些原因有几个节点断开了,这样剩下的两簇节点会形成两个具有相同名字的集群。这称为脑裂

为了防止脑裂发生,Elasticsearch提供了discovery.zen.minimum_master_nodes属性。定义了形成一个集群,有主节点资格并互相连接的节点的最小数目。

设置集群名

一般情况下建议设置集群的名字。

配置多播

多播是zen发现的默认方法。

  • discovery.zen.ping.multicast.group:用于多播请求的群组地址,默认是224.2.2.4
  • discovery.zen.ping.multicast.port:多播通信的端口号,默认54328
  • discovery.zen.ping.multicast.ttl:多播被认为有效的时间,默认3s
  • discovery.zen.ping.multicast.address:Elasticseach应该绑定的地址。默认是null,意味着elasticsearch将尝试绑定到系统可见的所有网络接口。

要禁用多播,在elasticsearch.yml文件中添加discovery.zen.ping.multicast.enabled属性为false。

配置单播

因为单播的工作方式,需要指定至少一个接收单播消息的主机。为此,在elasticsearch.yml文件中添加discovery.zen.ping.unicast.hosts属性。该属性指定了所有形成集群的主机。指定的主机中保证最少有一个工作。

也可以定义一个Elasticsearch可以使用的端口范围:

主机之间用逗号隔开,并指定预计用于单播消息的端口。

节点的ping设置

主节点和集群中的其他节点会互相ping。可以设置的属性如下:

这些值可以根据实际网络状况进行调节。

时光之门与恢复模块

除了索引和索引里面的数据,Elasticsearch还需要保存类型映射和索引级别的设置等元数据。此信息需要被持久化到别处,以便集群恢复事读取。

时光之门可以当做一个集群数据和元数据的安全避风港。每次启动集群,所有所需数据从时光之门读取,更改集群,使用时光之门模块保存。

时光之门

时光之门有多个类型,不过目前除了local类型,其他已经废弃,需要在elasticsearch.yml文件中添加gateway.type属性,值为local。local类型的写操作不是异步的。所以每当写操作完成,都可以确保数据已经被写入gateway(即它被索引或存储在事务日志中)。

恢复控制

除了选择时光之门类型外,Elasticsearch允许配置何时启动最初的恢复过程。恢复是初始化所有分片和副本的过程,从事务日志中读取所有数据,并应用到分片上。

假设有一个10个Elasticsearch节点组成的集群。应该通知Elasticsearch节点数目,设置gataway.expected_nodes属性为10。当集群中节点数据等于10时,Elasticsearch将立刻开始恢复过程。

也可以在8个节点之后开始恢复,设置gateway.recover_after_nodes属性为8。可以将它设置为任何我们想要的值,但应该把它设置为一个值以确保集群状态快照的最新版本可用,一般在大多数节点可用时开始恢复。

我们希望gateway在集群形成后的10分钟以后开始恢复,设置gateway.recover_after_time属性为10m。在gateway.recover_after_nodes属性指定数目的节点形成集群后,需要等待多长时间再开始恢复。

额外的gateway恢复选项

Elasticsearch--集群&时光之门和恢复控制的更多相关文章

  1. Elasticsearch集群 管理

    第7章 深入Elasticsearch集群 启动一个Elasticsearch节点时,该节点会开始寻找具有相同集群名字并且可见的主节点.如 果找到主节点,该节点加入一个已经组成了的集群:如果没有找到, ...

  2. 我的ElasticSearch集群部署总结--大数据搜索引擎你不得不知

    摘要:世上有三类书籍:1.介绍知识,2.阐述理论,3.工具书:世间也存在两类知识:1.技术,2.思想.以下是我在部署ElasticSearch集群时的经验总结,它们大体属于第一类知识“techknow ...

  3. Elasticsearch 集群 单服务器 超级详细教程

    前言 之前了解了Elasticsearch的基本概念.将spring boot + ElasticSearch + head插件 搞通之后.紧接着对es进行下一步的探索:集群.查阅资料的过程中,找到了 ...

  4. 使用Elasticsearch Operator快速部署Elasticsearch集群

    转载自:https://www.qikqiak.com/post/elastic-cloud-on-k8s/ 随着 kubernetes 的快速发展,很多应用都在往 kubernetes 上面迁移,现 ...

  5. 【Elasticsearch】深入Elasticsearch集群

    7.1 节点发现启动Elasticsearch的时候,该节点会寻找有相同集群名字且课件的主节点,如果有加入,没有自己成为主节点,负责发现的模块两个目的 选出主节点以及发现集群的新节点7.1.1发现的类 ...

  6. elasticsearch 集群

    elasticsearch 集群 搭建elasticsearch的集群 现在假设我们有3台es机器,想要把他们搭建成为一个集群 基本配置 每个节点都要进行这样的配置: cluster.name: ba ...

  7. Elasticsearch集群中处理大型日志流的几个常用概念

    之前对于CDN的日志处理模型是从logstash agent==>>redis==>>logstash index==>>elasticsearch==>&g ...

  8. elasticsearch 集群配置

    2015-10-10 09:56 by 轩脉刃, 999 阅读, 1 评论, 收藏, 编辑 elasticsearch 集群 搭建elasticsearch的集群 现在假设我们有3台es机器,想要把他 ...

  9. [译]使用explain API摆脱ElasticSearch集群RED苦恼(转)

    "哔...哔...哗",PagerDuty的报警通知又来了. 可能是因为你又遭遇了节点宕机, 或者服务器机架不可用, 或者整个ElasticSearch集群重启了. 不管哪种情况, ...

随机推荐

  1. 开发指南专题二:JEECG微云高速开发平台JEECG框架初探

    开发指南专题二:JEECG微云高速开发平台JEECG框架初探 2.JEECG框架初探 2.1演示系统 打开浏览器输入JEECG演示环境界址:http://demo.jeecg.org:8090/能够看 ...

  2. asp.net mvc + javascript生成下载文件

    近期做的是对现有项目进行重构.WEB FROM改成MVC,其实也算是推倒重来了. 里面有一个导出功能,将数据输出成txt文件,供下载.原先的做法是有一个隐藏的iframe,在这个iframe的页面中设 ...

  3. myeclipse配置hadoop开发环境

    1.安装Hadoop开发插件 hadoop安装包contrib/目录下有个插件hadoop-0.20.2-eclipse-plugin.jar,拷贝到myeclipse根目录下/dropins目录下. ...

  4. Form content types

    Forms in HTML documents https://www.w3.org/TR/html401/interact/forms.html#h-17.13.4 17.13.4 Form con ...

  5. BAPI 关闭和删除PR

    当PR在SAP里面已不再使用时,可使用批量使用以下两个BAPI进行处理: BAPI_REQUISITION_DELETE,进行删除处理, (速度快) BAPI_PR_CHANGE,进行关闭,但不删除( ...

  6. 常用的机器学习&数据挖掘知识点总结

    Basis(基础): MSE(Mean Square Error 均方误差),LMS(LeastMean Square 最小均方),LSM(Least Square Methods 最小二乘法),ML ...

  7. 珠海鼎芯(D-Chip)IMX6读取CPU的UID的方法【转】

    本文转载自:http://blog.csdn.net/williamdedong/article/details/52712084 在使用IMX6板子的时候,有时会想着是否可以把板子搞一个唯一标识呢, ...

  8. YTU 2437: C++ 习题 比较大小-类模板

    2437: C++ 习题 比较大小-类模板 时间限制: 1 Sec  内存限制: 128 MB 提交: 1144  解决: 805 题目描述 声明一个类模板,利用它分别实现两个整数.浮点数和字符的比较 ...

  9. 并不对劲的bzoj4827:loj2020:p3723:[AHOI/HNOI2017]礼物

    题目大意 有两个长度为\(n\)(\(n\leq5*10^4\))的数列\(x_1,x_2,...,x_n\)和\(y_1,y_2,...,y_n\),两个数列里的数都不超过\(m\)(\(m\leq ...

  10. 进程、轻量级进程(LWP)、线程

    进程.轻量级进程(LWP).线程 进程:程序执行体,有生命期,用来分配资源的实体 线程:分配CPU的实体. 用户空间实现,一个线程阻塞,所有都阻塞. 内核实现,不会所用相关线程都阻塞.用LWP实现,用 ...