ElasticSearch(一):基本概念

学习课程链接《Elasticsearch核心技术与实战》

## 基本概念示意图
![file](https://img2018.cnblogs.com/blog/985553/201910/985553-20191008220116393-1185271634.jpg)

索引与文档更偏向于开发人员的视角,属于逻辑上的一种概念;节点与分片更偏向于运维人员的视角,属于物理上的一种概念。

## 索引
* Index——索引是文档的容器,是一类文档的集合
- Index体现了逻辑空间的概念:每个索引都有自己的Mapping定义,用于定义包含的文档的字段名和字段类型
- Shard体现了物理空间的概念:索引中的数据分散在Shard上
* 索引的Mapping与Settings
- Mapping定义文档字段的类型
- Setting定义不同的数据分布
* 索引的不同语意
- 名词:一个Elasticsearch集群中,可以创建很多个不同的索引
- 动词:保存一个文档到Elasticsearch的过程也叫索引(indexing);索引(动词)文档到ElasticSearch的索引(名词)中
- 名词:一个B树索引,一个倒排索引

## 文档(Document)
* Elasticsearch是面向文档的,文档是所有可搜索数据的最小单位。
- 日志文件中的日志项
- 一部电影的具体信息/一张唱片的详细信息
- MP3播放器里的一首歌/一篇PDF文档中的具体内容
* 文档会被序列化成JSON格式,保存在Elasticsearch中
- JSON对象由字段组成
- 每个字段都有对应的字段类型(字符串/数值/布尔/日期/二进制/范围类型)
* 每个文档都有一个唯一的ID
- 你可以自己指定ID
- 或者通过Elasticsearch自动生成
* 文档的元数据
- `_index`——文档所属的索引名
- `_type`——文档所属的类型名
- `_id`——文档唯一ID
- `_version`——文档的版本信息
- `_scope`——相关性打分
- `_source`——文档的原始JSON数据

## 集群
* ElasticSearch集群实际上是一个分布式系统,而分布式系统需要具备两个特性:
- 高可用性: 服务可用性:允许有节点停止服务;数据可用性:部分节点丢失,不会丢失数据。
- 可扩展性:随着请求量的不断提升,数据量的不断增长,系统可以将数据分布到其他节点,实现水平扩展。

  • Elasticsearch的分布式架构

    • 不同的集群通过不同的名字来区分,默认名字elasticsearch
    • 通过配置文件修改,或者在命令行中 -E cluster.name=geektime进行设定
    • 一个集群可以有一个或者多个节点

## 节点
* 节点是一个Elasticsearch的实例,本质上就是一个Java进程。
* 每个节点都有名字,可以通过配置文件进行配置,也可以通过命令行进行指定,如:-E node.name=node1。
* 每个节点在启动之后,会被分配一个UID,保存在data目录下。

## 节点类型
* Master-Eligible Node与Master Node
- 每个节点启动之后,默认就是一个Master Eligible节点,当然可以在配置文件中将其禁止,node.master:false。
- Master-Eligible Node可以参加选主流程,成为Master Node。
- 当第一个节点启动时,它会将其选举为Master Node。
- 每个节点都保存了集群状态,但只有Master Node才能修改集群的状态。
* Data Node
- 可以保存数据的节点,负责保存分片数据,在数据扩展上起到至关重要的作用。
* Coordinating Node
- 它通过接受Rest Client的请求,会将请求分发到合适的节点,最终将结果汇集到一起。
- 每个节点都默认起到Coordinating Node的职责
* Hot &Warm Node
- 不同硬件配置的Data Node,来实现Hot &Warm架构,降低集群部署的成本。
* Machine Learning Node
- 负责机器学习的节点,常用来做异常检测。

## 节点类型配置
* 开发环境中一个节点可以承担多种角色。
* 生成环境中,应该设置单一的节点角色

节点类型 配置参数 默认值
master eligible node.master true
data node.data true
ingest node.ingest true
coordinating only 设置其他类型全部为false
machine learning node.ml true

## 分片
* 主分片用于解决数据水平扩展的问题,通过主分片,可以将数据分布到集群内的所有节点之上。
- 一个主分片是一个运行的Lucene的实例
- 主分片数是在索引创建时指定,后续不允许修改,除非Reindex
* 副本用于解决数据高可用的问题,它是主分片的拷贝。
- 副本分片数可以动态调整
- 增加副本数,在一定程度上可以提高服务的可用性

## 分片的设定
对于生产环境中分片的设定,需要提前做好容量规划,因为主分片数是在索引创建时预先设定的,后续无法修改。
* 分片数设置过小
- 导致后续无法增加节点进行水平扩展。
- 导致分片的数据量太大,数据在重新分配时耗时;
* 分片数设置过大
- 影响搜索结果的相关性打分,影响统计结果的准确性;
- 单个节点上过多的分片,会导致资源浪费,同时也会影响性能;

## Index 相关 API
```
#查看索引相关信息
GET kibana_sample_data_ecommerce

查看索引的文档总数

GET kibana_sample_data_ecommerce/_count

查看前10条文档,了解文档格式

POST kibana_sample_data_ecommerce/_search

{

}

_cat indices API

查看indices

GET /_cat/indices/kibana*?v&s=index

查看状态为绿的索引

GET /_cat/indices?v&health=green

按照文档个数排序

GET /_cat/indices?v&s=docs.count:desc

查看具体的字段

GET /_cat/indices/kibana*?pri&v&h=health,index,pri,rep,docs.count,mt

How much memory is used per index?

GET /_cat/indices?v&h=i,tm&s=tm:desc



<br/>
## Cluster相关API

GET _cat/nodes?v

GET /_nodes/es7_01,es7_02

GET /_cat/nodes?v

GET /_cat/nodes?v&h=id,ip,port,v,m

GET _cluster/health

GET _cluster/health?level=shards

GET /_cluster/health/kibana_sample_data_ecommerce,kibana_sample_data_flights

GET /_cluster/health/kibana_sample_data_flights?level=shards

cluster state

GET /_cluster/state

cluster get settings

GET /_cluster/settings

GET /_cluster/settings?include_defaults=true

GET _cat/shards

GET _cat/shards?h=index,shard,prirep,state,unassigned.reason

ElasticSearch(一):基本概念的更多相关文章

  1. elasticsearch的核心概念

    1.elasticsearch的核心概念 (1)Near Realtime(NRT):近实时,两个意思,从写入数据到数据可以被搜索到有一个小延迟(大概1秒):基于es执行搜索和分析可以达到秒级 (2) ...

  2. Elasticsearch系列---Elasticsearch的基本概念及工作原理

    基本概念 Elasticsearch有几个核心的概念,花几分钟时间了解一下,有助于后面章节的学习. NRT Near Realtime,近实时,有两个层面的含义,一是从写入一条数据到这条数据可以被搜索 ...

  3. 写给大忙人的Elasticsearch架构与概念(未完待续)

    最新版本官方文档https://www.elastic.co/guide/en/elasticsearch/reference/current/index.html文档增删改参考https://www ...

  4. 图解Elasticsearch的核心概念

    本文讲解大纲,分8个核心概念讲解说明: NRT Cluster Node Document&Field Index Type Shard Replica Near Realtime(NRT)近 ...

  5. 了解一下Elasticsearch的基本概念

    一.前文介绍 Elasticsearch(简称ES)是一个基于Apache Lucene(TM)的开源搜索引擎,无论在开源还是专有领域,Lucene 可以被认为是迄今为止最先进.性能最好的.功能最全的 ...

  6. ElasticSearch入门-基本概念介绍以及安装

    Elasticsearch基本概念 Elasticsearch是基于Lucene的全文检索库,本质也是存储数据,很多概念与传统关系型数据库类似. 传统关系型数据库与Elasticsearch进行概念对 ...

  7. elasticsearch常用的概念整理

    节点node 节点(node)是一个运行着的Elasticsearch实例 集群中一个节点会被选举为主节点(master),它将临时管理集群级别的一些变更,例如新建或删除索引.增加或移除节点等.主节点 ...

  8. elasticsearch中的概念简述

    Near Realtime(NRT) Elasticsearch接近实时.从为一个文档建立索引到可被搜索,正常情况下有1秒延迟. Cluster 一个集群有一个唯一的名字,默认是"elast ...

  9. Elasticsearch的基本概念和指标

    背景 在13年的时候,我开始负责整个公司的搜索引擎.嗯……,不是很牛的那种大项目负责人.而是整个搜索就我一个人做.哈哈. 后来跳槽之后,所经历的团队都用Elasticsearch,基本上和缓存一样,是 ...

  10. 【elasticsearch】关于elasticSearch的基础概念了解【转载】

    转载原文:https://www.cnblogs.com/chenmc/p/9516100.html 该作者本系列文章,写的很详尽 ================================== ...

随机推荐

  1. Mariadb 基于Mycat实现读写分离

    环境:Mariadb主:192.168.200.129 Mariadb从:192.168.200.114 Mycat    :192.168.200.112 (1)      安装jdk,先查看本机是 ...

  2. 美化你的IDEA—背景图片

    IDEA设置背景图片 很多人都不知道IDEA可以像桌面一样设置背景图片,下面我们来美化我们的开发工具. 有的IDEA版本是搜不到的,我这个就是,现在搜的是已经装好的. 没有的我们可以去http://p ...

  3. Go语言及Beego框架环境搭建

    在开始环境搭建之前,我们先一起来看看: Go有什么优势: 不用虚拟机,它可直接编译成机器码,除了glibc外没有其他外部依赖,部署十分方便,就是扔一个文件就完成了. 天生支持并发,可以充分的利用多核, ...

  4. Failure to transfer org.springframework:spring-jcl:jar:5.0.7.RELEASE from

    错误信息: Failure to transfer org.springframework.boot:spring-boot-maven-plugin:pom:1.5.4.RELEASE from h ...

  5. HTTP中get和post

    HTTP中get和post的区别 GET - 从指定的资源请求数据. POST - 向指定的资源提交要被处理的数据 GET POST 后退/刷新 无害的 数据会被重新提交 书签 可收藏为书签 不可收藏 ...

  6. js继承机制的实现

    js继承机制的实现 1. 继承的概念 说明继承的最经典的例子:几何形状.实际上,几何形状只有两种,即椭圆形(是圆形的)和多边形(具有一定数量的边).圆是椭圆的一种,它只有一个焦点.三角形.矩形和五边形 ...

  7. Python:的web爬虫实现及原理(BeautifulSoup工具)

    最近一直在学习python,学习完了基本语法就练习了一个爬虫demo,下面总结下. 主要逻辑是 1)初始化url管理器,也就是将rooturl加入到url管理器中 2)在url管理器中得到新的new_ ...

  8. L2-007. 家庭房产(并查集)

    #include <cstdio> #include <set> #include <vector> #include <algorithm> usin ...

  9. NodeJs编写Cli实现自动初始化新项目目录结构

    应用场景 前端日常开发中,会遇见各种各样的cli,这些工具极大地方便了我们的日常工作,让计算机自己去干繁琐的工作,而我们,就可以节省出大量的时间用于学习.交流.开发. 注释:文章附有源码链接! 使用工 ...

  10. ios 11 系统CPU过高,xib中textfield使用导致出过高

    ios11 发布之后,作为开发肯定是第一时间进行了升级测试,全新的系统不免会带来这样那样的问题.项目中使用xib的小伙伴们会发现,项目的cpu使用率非常高,尤其是初始化的时候,并没有线程的操作,CPU ...