ES集群&kibana安装

一、elasticsearch介绍

Elasticsearch 是个开源分布式搜索引擎，它的特点有：分布式，零配置，自动发现，索引自动分片，索引副本机制，restful 风格接口，多数据源，自动搜索负载等。

Elasticsearch是一个基于Lucene的搜索服务器。它提供了一个分布式多用户能力的全文搜索引擎，基于 RESTful web 接口。Elasticsearch 是用 Java 开发的，并作为 Apache 许可条款下的开放源码发布，是第二流行的企业搜索引擎。设计用于云计算中，能够达到实时搜索，稳定，可靠，快速，安装使用方便。

二、es的基础核心概念

1、接近实时（NRT）

elasticsearch 是一个接近实时的搜索平台，这意味着，从索引一个文档直到这个文档能够被搜索到有一个轻微的延迟（通常是 1 秒）。

2、集群（cluster）

一个集群就是由一个或多个节点组织在一起，它们共同持有你整个的数据，并一起提供索引和搜索功能。其中一个节点为主节点，这个主节点是可以通过选举产生的，并提供跨节点的联合索引和搜索的功能。集群有一个唯一性标示的名字，默认是 elasticsearch，集群名字很重要，每个节点是基于集群名字加入到其集群中的。因此，确保在不同环境中使用不同的集群名字。一个集群可以只有一个节点。强烈建议在配置 elasticsearch 时，配置成集群模式。

3、节点（node）

节点就是一台单一的服务器，是集群的一部分，存储数据并参与集群的索引和搜索功能。像集群一样，节点也是通过名字来标识，默认是在节点启动时随机分配的字符名。当然，你可以自己定义。该名字也很重要，在集群中用于识别服务器对应的节点。

节点可以通过指定集群名字来加入到集群中。默认情况，每个节点被设置成加入到 elasticsearch集群。如果启动了多个节点，假设能自动发现对方，他们将会自动组建一个名为 elasticsearch 的集群。

所以es集群由若干节点组成，这些节点在同一个网络内，cluster-name相同。

节点分为：

master节点：集群中的一个节点会被选为master节点，它将负责管理集群范畴的变更，例如创建或删除索引，添加节点到集群或从集群删除节点。master节点无需参与文档层面的变更和搜索，这意味着仅有一个master节点并不会因流量增长而成为瓶颈。任意一个节点都可以成为 master 节点。
data节点：持有数据和倒排索引。默认情况下，每个节点都可以通过设定配置文件yml中的node.data属性为true（默认）成为数据节点。如果需要一个专门的主节点，应将其node.data属性设置为false。
Client节点：如果将master属性和node.data属性都设置为false，那么该节点就是一个客户端节点，扮演一个负载均衡的角色，将到来的请求路由到集群中的各个节点。

4、索引（index）

一个索引就是一个拥有几分相似特征的文档的集合。比如说，你可以有一个客户数据的索引，另一个产品目录的索引，还有一个订单数据的索引。一个索引由一个名字来标识（必须全部是小写字母的），并且当我们要对对应于这个索引中的文档进行索引、搜索、更新和删除的时候，都要使用到这个名字。在一个集群中，如果你想，可以定义任意多的索引。索引相当于关系型数据库的库。

5、类型（type）

在一个索引中，你可以定义一种或多种类型。一个类型是你的索引的一个逻辑上的分类/分区，其语义完全由你来定。通常，会为具有一组共同字段的文档定义一个类型。比如说，我们假设你运营一个博客平台并且将你所有的数据存储到一个索引中。在这个索引中，你可以为用户数据定义一个类型，为博客数据定义另一个类型，当然，也可以为评论数据定义另一个类型。类型相对于关系型数据库的表。

6、文档（document）

一个文档是一个可被索引的基础信息单元。比如，你可以拥有某一个客户的文档，某一个产品的一个文档，当然，也可以拥有某个订单的一个文档。文档以 JSON（Javascript Object Notation）格式来表示，而 JSON 是一个到处存在的互联网数据交互格式。

在一个 index/type 里面，只要你想，你可以存储任意多的文档。注意，虽然一个文档在物理上位于一个索引中，实际上一个文档必须在一个索引内被索引和分配一个类型。文档相对于关系型数据库的列。

7、分片和副本（shards & replicas）

在实际情况下，索引存储的数据可能超过单个节点的硬件限制。如一个 10 亿文档需 1TB 空间可能不适合存储在单个节点的磁盘上，或者从单个节点搜索请求太慢了。为了解决这个问题，elasticsearch 提供将索引分成多个分片的功能。当在创建索引时，可以定义想要分片的数量。每一个分片就是一个全功能的独立的索引，可以位于集群中任何节点上。

分片的两个最主要原因：

水平分割扩展，增大存储量
分布式并行跨分片操作，提高性能和吞吐量

分布式分片的机制和搜索请求的文档如何汇总完全是有 elasticsearch 控制的，这些对用户而言是透明的。

网络问题等等其它问题可以在任何时候不期而至，为了健壮性，强烈建议要有一个故障切换机制，无论何种故障以防止分片或者节点不可用。为此，elasticsearch 让我们将索引分片复制一份或多份，称之为分片副本或副本。

副本也有两个最主要原因：

高可用性，以应对分片或者节点故障。出于这个原因，分片副本要在不同的节点上。
提供性能，增大吞吐量，搜索可以并行在所有副本上执行。

总之，每个索引可以被分成多个分片。一个索引也可以被复制 0 次（意思是没有复制）或多次。一旦复制了，每个索引就有了主分片（作为复制源的原来的分片）和复制分片（主分片的拷贝）之别。分片和副本的数量可以在索引创建的时候指定。在索引创建之后，你可以在任何时候动态地改变副本的数量，但是你事后不能改变分片的数量。

默认情况下，Elasticsearch 中的每个索引被分片 5 个主分片和 1 个副本，这意味着，如果你的集群中至少有两个节点，你的索引将会有 5 个主分片和另外 5 个副本分片（1 个完全拷贝），这样的话每个索引总共就有 10 个分片。

分片总结：

单个节点由于物理机硬件限制，存储的文档是有限的，如果一个索引包含海量文档，则不能在单个节点存储。ES提供分片机制，同一个索引可以存储在不同分片（数据容器）中，这些分片又可以存储在集群中不同节点上。
分片分为主分片(primary shard) 以及从分片(replica shard) 。
主分片与从分片关系：从分片只是主分片的一个副本，它用于提供数据的冗余副本
从分片应用：在硬件故障时提供数据保护，同时服务于搜索和检索这种只读请求
是否可变：索引中的主分片的数量在索引创建后就固定下来了，但是从分片的数量可以随时改变
索引默认创建的分片：默认设置5个主分片和一组从分片（即每个主分片有一个从分片对应），但是从分片没有被启用（主从分片在同一个节点上没有意义），因此集群健康值会显示为黄色(yellow)

三、es集群搭建

1、环境：

三台centos7服务器，一台为master节点，两台从节点。

系统版本：CentOS Linux release 7.4.1708 (Core)

软件版本：elasticsearch-6.8.0.rpm

Jdk版本：jdk-8u161-linux-x64.tar.gz

2、在es节点上配置名称解析

通过本地/etc/hosts文件实现。（也可以不配置，但配置es文件的节点名称时填写对应的IP）

3、分别在三台es节点安装java环境

java下载地址：

http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html

4、分别在三台es节点安装elasticsearch软件

安装方式相同。（本次使用rpm安装）

https://www.elastic.co/cn/downloads/elasticsearch

主要路径：

5、修改三台节点的es配置文件。

节点1：

节点2：

节点3：

注：以上的数据存放路径为默认，如要修改路径，需要对路径授权。如：chown elasticsearch:elasticsearch 存储路径

6、启动elasticsearch并检查是否启动成功

7、通过浏览器访问节点（需要提前放行端口或关闭防火墙）

查看节点信息情况

查看集群的健康情况，status为green绿色

查看集群状态信息

四、安装kibana

Kibana是ElasticSearch的一个工具，用来分析ES中的数据并以各种图形界面显示出来。

可以作为ElasticSearch的一个客户端，在Kibana中可以很轻松的调用ES的RESTful接口。

1、安装kibana服务

软件版本：kibana-6.8.0-x86_64

2、设置kibana的主配置文件

3、启动kibana服务

4、通过浏览器访问

5、在kibana的左侧Menu中找到图标【DevTools】

这个是开发者工具。在这个界面可以编写es的查询DSL语句，并发起对es的请求