一.分布式ELK平台 ELK的介绍: ELK 是什么? Sina.饿了么.携程.华为.美团.freewheel.畅捷通 .新浪微博.大讲台.魅族.IBM...... 这些公司都在使用 ELK!ELK!ELK! ELK竟然重复了三遍,是个什么鬼? ELK 其实并不是一款软件,而是一整套解决方案,是三个软件产品的首字母缩写 Elasticsearch:负责日志检索和储存 Logstash:负责日志的收集和分析.处理 Kibana:负责日志的可视化 这三款软件都是开源软件,通常是配合使用,而且又先后归…

ELK 性能(4) - 大规模 Elasticsearch 集群性能的最佳实践 介绍 集群规模 集群数:6 整体集群规模: 300 Elasticsearch 实例 141 物理服务器 4200 CPU 核心 38TB RAM 1.5 Pb 存储 索引日志: 100 亿/天 400k/秒 内容 开场白 健康提示 将 Elasticsearch 集群的名称 "elasticsearch" 进行重命名.当网络内有两个以上的集群时,就会发现这样做所带来的好处. 为了防止误删除,设置参数 ac…

Elasticsearch集群安装, 基于Elasticsearch6.2.2版本, 在Linux上安装Elasticsearch集群. 1.安装规划 IP HostName Service MasterNode DataNode NodeName 10.43.159.9 zdh-9 Elasticsearch false true node-9 10.43.159.11 zdh-11 Elasticsearch true false node-11 安装用户:elasticsearch/zdh…

前面已经介绍了Elasticsearch这个工具,并对单机安装做了简单介绍,现在使用三台机器做一个elasticsearch集群 一 环境准备 1.1 机器准备 1.2 同步时间 [root@node* ~]# ntpdate ntp1.aliyun.com Nov :: ntpdate[]: adjust time server 120.25.115.20 offset -0.015719 sec [root@node1 ~]# crontab -l * * * * * /usr/sbin/n…

在分布式系统中,应用数量众多,应用调用链复杂,常常使用ELK作为日志收集.分析和展示的组件.本篇文章将讲讲解如何部署ELK,然后讲解如何使用Filebeat采集Spring Boot的日志输出到Logstash上,logstash再将日志输出到Elasticsearch上,最后展示到kibana上面.整个日志采集流程如下图: 在传统的日志采集只会用ELK,那么为什么需要使用filebeat呢,因为logstash是java应用,解析日志是非的消耗cpu和内存,logstash安装在应用部署的机器…

1.进入root目录并下载elasticsearch cd /root wget https://download.elastic.co/elasticsearch/elasticsearch/elasticsearch-1.7.3.tar.gz 2.解压下载好的压缩包 tar -zxvf elasticsearch-1.7.3.tar.gz 3.修改目录名字为node1(这里需要安装三个节点) mv elasticsearch-1.7.3 elasticsearch-node3 4.修改/ro…

1. 环境说明 Cent OS 7 jdk-8u121-linux-x64.tar.gz elasticsearch-5.2.1.zip 2. 系统环境配置 新建进程用户 修改File Descriptors 打开配置文件 为elastic-search-1用户添加如下配置 保存文件,重新登录系统,然后切换到elastic-search用户,检验设置是否成功 设置Virtual memory 设置防火墙,开放9200/9300端口 3.Java安装及环境配置 切换账号及目录 解压jdk安装包 配…

在前一篇:kafka学习1:kafka安装 中,我们安装了单机版的Kafka,而在实际应用中,不可能是单机版的应用,必定是以集群的方式出现.本篇介绍Kafka集群的安装过程: 一.准备工作 1.开通Zookeeper和Kafka需要的端口 在 zookeeper-端口说明 中,我们可以看到Zookeeper需要用到3个端口,我们都需要开放这个端口.Linux开放端口,可以参考:Linux 开启端口命令 这篇文章. 否则在启动的时候,会出现如下错误(连接超时错误): 2.修改主机名称 在搭建Kaf…

http://www.elastic.co/guide/en/elasticsearch/reference/current/setup-configuration.html https://github.com/elastic/elasticsearch ###[在多台机器上执行下面的命令]### #es启动时需要使用非root用户,所有创建一个xiaoniu用户: useradd xiaoniu #为hadoop用户添加密码: | passwd --stdin xiaoniu #将bigda…

准备环境 启动4个centos容器, 并暴露相对应端口 (我的本机ip为172.16.1.236,以下涉及到的地方需要修改为自己的ip) node_name ip http port transport port es01 docker宿主机ip 9205:9200 9305: 9300 es02 docker宿主机ip 9206:9200 9306: 9300 es03 docker宿主机ip 9207:9200 9307: 9300 kibana : 5601:5601 执行以下命令启动ce…