关于ELK
官方文档:
https://www.elastic.co/guide/en/elasticsearch/reference/6.0/getting-started.html
日志:
https://www.elastic.co/guide/en/kibana/6.6/xpack-logs.html
启动并运行:
https://www.elastic.co/guide/en/infrastructure/guide/6.6/install-infrastructure-monitoring.html#install-beats-for-infra-UI
本机地址:192.168.0.205
该文档的 E L K 是在同一台机器上安装的
下载安装包:
注:安装该包之前需要先安装JDK环境
wget https://artifacts.elastic.co/downloads/logstash/logstash-6.6.0.tar.gz \
https://download.oracle.com/otn-pub/java/jdk/8u201-b09/42970487e3af4f5aa5bca3f542482c60/jdk-8u201-linux-x64.tar.gz?AuthParam=1549421622_81c2065faa76ac5da3dfe5cc20911a42 \
https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.6.0.tar.gz \
https://artifacts.elastic.co/downloads/kibana/kibana-6.6.0-linux-x86_64.tar.gz
#解压所有包
for i in `ls *.gz`;do tar -zxvf $i;done
然后将ELK各解压后的包mv到/etc下
#安装jdk环境
mv jdk1.8.0_201/ /usr/local/jdk1.8
echo "JAVA_HOME=/usr/local/jdk1.8/" >> /etc/profile
echo "CLASSPATH=.:$JAVA_HOME/lib/tools.jar:$JAVA_HOME/lib/dt.jar" >> /etc/profile
echo "PATH=\$JAVA_HOME/bin:\$HOME/bin:\$HOME/.local/bin:\$PATH" >> /etc/profile
source /etc/profile
java -version
#安装elasticsearch
#注:这里启动时不能使用root用户来启动,每个进程最大同时打开文件数太小
echo "* soft nofile 65536" >>/etc/security/limits.conf
echo "* hard nofile 65536" >>/etc/security/limits.conf
#修改最大线程个数
echo "* soft nproc 4096" >> /etc/security/limits.conf
echo "* hard nproc 4096" >> /etc/security/limits.conf
echo "vm.max_map_count=262144" >> /etc/sysctl.conf
sysctl -p
#修改完以上配置以后,用户退出后重新登录生效
cd elasticsearch-6.6.0/bin/
useradd zhangsan
echo ""|passwd --stdin zhangsan
chown -R zhangsan.zhangsan /etc/elasticsearch-6.6.0/
cat /etc/elasticsearch-6.6.0/config/elasticsearch.yml |grep -v ^#
cluster.name: my-app-opop
node.name: node-001
path.data: /data
path.logs: /var/log/elasticsearch_logs
network.host: 192.168.0.205 #这里是本机地址
http.port: 9200
#创建上面文件中定义的目录文件
mkdir /var/log/elasticsearch_logs/ -p
touch /var/log/elasticsearch_logs/my-app-opop.log
chown -R zhangsan.zhangsan /var/log/elasticsearch_logs/
mkdir /data
chown -R zhangsan.zhangsan /data/
#切换用户并启动
su - zhangsan
/etc/elasticsearch-6.6.0/bin/elasticsearch &
#启动示例
/etc/elasticsearch-6.6.0/bin/elasticsearch --help
-E <KeyValuePair>配置设置
-V, - version打印elasticsearch版本信息并退出
-d, - damonmonize在后台启动Elasticsearch
-h, - help显示帮助
-p, - pidfile <Path>在start时在指定路径中创建pid文件
-q, - quiet关闭在控制台中记录的标准输出/错误流
-s, - silent显示最小输出
-v, - verbose显示详细输出
#测试:
curl 192.168.0.205:9200
{
"name" : "node-001",
"cluster_name" : "my-app-opop",
"cluster_uuid" : "KzYecJy9RTy8VVKP5ealdQ",
"version" : {
"number" : "6.6.0",
"build_flavor" : "default",
"build_type" : "tar",
"build_hash" : "a9861f4",
"build_date" : "2019-01-24T11:27:09.439740Z",
"build_snapshot" : false,
"lucene_version" : "7.6.0",
"minimum_wire_compatibility_version" : "5.6.0",
"minimum_index_compatibility_version" : "5.0.0"
},
"tagline" : "You Know, for Search"
}
#退出该bash
exit
#logstash安装
cd /etc/logstash-6.6.0/config/
cp logstash-sample.conf logstash.conf
cat logstash.conf
# Sample Logstash configuration for creating a simple
# Beats -> Logstash -> Elasticsearch pipeline.
input {
beats {
port => 5044
}
}
output {
elasticsearch {
hosts => ["http://192.168.0.205:9200"] #这里是写IP地址
index => "%{[@metadata][beat]}-%{[@metadata][version]}-%{+YYYY.MM.dd}"
user => "zhangsan" !!!!!! 这里注意
password => "123456" !!!!这里注意
}
}
#后台启动
/etc/logstash-6.6.0/bin/logstash -f /etc/logstash-6.6.0/config/logstash.conf &
#Kibana安装
注:默认设置配置Kibana运行localhost:5601
注:官方配置文件说明:https://www.elastic.co/guide/en/kibana/6.6/settings.html
cd /etc/kibana-6.6.0-linux-x86_64/
vim config/kibana.yml
server.port: 5601
server.host: "192.168.0.205"
elasticsearch.hosts: ["http://"
#启动
bin/kibana &
踩过的坑:

解决方法:
如果机器的内存充足的话,就给elasticsearch多一点内存,配置文件vim /etc/elasticsearch-6.6.0/config/jvm.options

如果机器的内存不是那么的充足的话,我们可以改改后端弹性搜索的阈值。修改配置文件vim /etc/kibana-6.6.0-linux-x86_64/config/kibana.yml,将#去掉,然后将30000毫秒(也就是30s)
更改成40000(40秒),这个根据实际情况进行修改。
vim /etc/kibana-6.6.0-linux-x86_64/config/kibana.yml

关于ELK的更多相关文章
- ELK日志系统:Filebeat使用及Kibana如何设置登录认证
根据elastic上的说法: Filebeat is a lightweight, open source shipper for log file data. As the next-generat ...
- 5分钟部署ELK+filebeat5.1.1
标题有点噱头,不过网络环境好的情况下也差不多了^_^ 1. 首先保证安装了jdk. elasticsearch, logstash, kibana,filebeat都可以通过yum安装,这里前 ...
- 大数据平台架构(flume+kafka+hbase+ELK+storm+redis+mysql)
上次实现了flume+kafka+hbase+ELK:http://www.cnblogs.com/super-d2/p/5486739.html 这次我们可以加上storm: storm-0.9.5 ...
- ELK+Kafka集群日志分析系统
ELK+Kafka集群分析系统部署 因为是自己本地写好的word文档复制进来的.格式有些出入还望体谅.如有错误请回复.谢谢! 一. 系统介绍 2 二. 版本说明 3 三. 服务部署 3 1) JDK部 ...
- 第三十章 elk(1) - 第一种架构(最简架构)
软件版本: es:2.4.0 logstash:2.4.0 kibana:4.6.1 一.logstash安装(收集.过滤日志.构建索引) 1.下载:https://www.elastic.co/do ...
- #研发解决方案#基于Apriori算法的Nginx+Lua+ELK异常流量拦截方案
郑昀 基于杨海波的设计文档 创建于2015/8/13 最后更新于2015/8/25 关键词:异常流量.rate limiting.Nginx.Apriori.频繁项集.先验算法.Lua.ELK 本文档 ...
- ELK+redis搭建nginx日志分析平台
ELK+redis搭建nginx日志分析平台发表于 2015-08-19 | 分类于 Linux/Unix | ELK简介ELKStack即Elasticsearch + Logstas ...
- ELK日志系统:Elasticsearch + Logstash + Kibana 搭建教程
环境:OS X 10.10.5 + JDK 1.8 步骤: 一.下载ELK的三大组件 Elasticsearch下载地址: https://www.elastic.co/downloads/elast ...
- elk系列4之kibana图形化操作
preface 我们都搭建了ELK系统,且日志也能够正常收集的时候,那么就配置下kibana.我们可以通过kibana配置柱状图,趋势图,统计图,圆饼图等等各类图.下面就拿配置统计图和柱状图为例,结合 ...
- elk平台搭建
很多时候我们需要对日志做一个集中式的处理,但是通常情况下这些日志都分布到n台机器上面,导致一个结果就是效率比较低,而ELK平台可以帮助我们解决这么一件事情: ELK下载:https://www.ela ...
随机推荐
- Hybris IMPEX.
1.Impex是基于java Model的一种面向对象的数据操作手段,因此写impex代码前需要理清java Model之间的依赖关系. 2.基本语法:mode type[modifier=val ...
- java获取文件路径
情况:工程项目没有放到tomcat下,在eclipse运行 1.获取项目根目录,根据在哪里运行 2. 3.从最终生成的.class文件为着手点 4.在controller下
- map标签
map和area 标签配合img标签制作分区超链接效果 http://www.w3school.com.cn/tiy/t.asp?f=html_areamap
- 使用node.js进行API自动化回归测试
概述 传统的QA自动化测试通常是基于GUI的,比如使用Selenium,模拟用户在界面上操作.但GUI测试的开发.维护成本和运行的稳定性一直是测试界的老大难问题.投入大量的人力物力开发.维护.运行,却 ...
- Tomcat 8默认工具manager管理页面访问配置
Tomcat 8默认工具manager管理页面访问配置 1. 分配相关的角色权限 需要配置的配置文件是${catalina.home}/conf/tomcat-users.xml先给Tomcat访问相 ...
- modifyGeoJSON
from osgeo import ogr import json from geojson import loads, dumps, Feature, FeatureCollection from ...
- 《Inside C#》笔记(十一) 运算符重载
运算符重载与之前的索引器类似,目的是为了让语言本身使用起来更方便直接,也是一种语法糖. 一 运算符重载(Operator Overloading) 运算符重载的存在,使得现有的各种运算符可以被重新定义 ...
- B-树、B+树
B-树 用来在外部存储中组织数据. 严格来说,2-3树.2-3-4树都是B-树的特例:但B树更强调它的节点有很多个子节点,B-树中的节点可以有几十或几百个子节点. B-树也可以是查找树,也可以不是查找 ...
- Redis系列(二):Redis的数据类型及命令操作
原文链接(转载请注明出处):Redis系列(二):Redis的数据类型及命令操作 Redis 中常用命令 Redis 官方的文档是英文版的,当然网上也有大量的中文翻译版,例如:Redis 命令参考.这 ...
- python第三天 变量 作业
作业1,模拟登陆:1. 用户输入帐号密码进行登陆2. 用户信息保存在文件内3. 用户密码输入错误三次后锁定用户 使用文件:user_file.txt 用户列表文件. 格式:{'张三':'12 ...