Docker 部署 elk + filebeat

kibana 开源的分析与可视化平台
logstash 日志收集工具 logstash-forwarder(原名lubmberjack)
elasticsearch 查询  + filebeat 日志收集


环境:

  • docker 版本 :18.09.1
  • 主机地址:192.168.1.81
  • filebeat:6.5.4

一、部署elk

1、修改系统内存内核参数

# 临时修改
sysctl -w vm.max_map_count=262144
# 永久修改
vim /etc/sysctl.conf
vm.max_map_count=262144

2、下载elk镜像

docker pull sebp/elk

3、运行elk服务

docker run -p 5601:5601 -p 9200:9200 -p 5044:5044 -itd --name elk sebp/elk

4、修改logstash关闭ssl

# 1、进入elk容器
docker exec -it xxxxx /bin/bash # 2、修改配置文件 改为如下
vi /etc/logstash/conf.d/02-beats-input.conf input {
beats {
port => 5044
}
}

5、重启elk

docker restart elk

二、部署filebeat(本地安装)

  • filebeat压缩包
  • 下载地址:https://pan.baidu.com/s/1fx12E7N_O2a6CHIBmQV6Ig
  • 密码:osxk

1、安装filebeat

rpm -ivh filebeat-6.5.4-x86_64.rpm

2、修改配置文件

filebeat.prospectors:
- type: log
enabled: true
paths:
- /docker/service/zs/java/javalog/*.log
tags: ["java"] - type: log
enabled: true
paths:
- /docker/service/zs/nginx/log/*.log
tags: ["nginx"] - type: log
enabled: true
paths:
- /docker/service/zs/redis/log/*.log
tags: ["redis"] filebeat.config.modules:
path: ${path.config}/modules.d/*.yml
reload.enabled: false setup.template.settings:
index.number_of_shards: 3 setup.kibana:
host: "192.168.1.81:5601" output.logstash:
hosts: ["192.168.1.81:5044"]
filebeat.prospectors:
# 指定收集的日志路径
- type: log
enabled: true
paths:
# 指定路径
- /docker/service/zs/java/javalog/*.log
tags: ["java"] # 指定收集的日志路径
- type: log
enabled: true
paths:
# 指定路径
- /docker/service/zs/nginx/log/*.log
# 自定义名称
tags: ["nginx"] # 指定收集的日志路径
- type: log
enabled: true
paths:
# 指定路径
- /docker/service/zs/redis/log/*.log
# 自定义名称
tags: ["redis"] filebeat.config.modules:
path: ${path.config}/modules.d/*.yml
reload.enabled: false setup.template.settings:
index.number_of_shards: 3 # 指定kibana主机地址
setup.kibana:
host: "192.168.1.81:5601" # 指定logstash地址
output.logstash:
hosts: ["192.168.1.81:5044"]

文件注释

三、kibana管理

1、Management --> index patterns -- > create index pattern

2、下一步

3、查看创建索引

Docker 部署 elk + filebeat的更多相关文章

  1. Docker 部署ELK之Sentinl日志报警

    前篇文章简单介绍了Docker 部署ELK,以及使用filebeat收集java日志.这篇我们介绍下日志报警配置,这里我们使用Sentinl插件. 1.修改kibana参数 进入elk容器,修改对应参 ...

  2. 被一位读者赶超,手摸手 Docker 部署 ELK Stack

    被一位读者赶超,容器化部署 ELK Stack 你好,我是悟空. 被奇幻"催更" 最近有个读者,他叫"老王",外号"茴香豆泡酒",找我崔更 ...

  3. 利用docker部署elk交换机日志分析

    今天我们来聊一下利用docker部署elk日志分析系统,这里解析一下elk是啥东西.elk分别是Elasticsearch,Logstash和Kibana的首字母缩写. Elasticsearch是一 ...

  4. Docker 部署ELK

    1.安装docker前安装pip sudo yum -y install epel-release sudo yum install python-pip 2.安装docker #安装依赖包 yum ...

  5. Linux实战(20):非docker部署ELK

    部署环境: Elasticsearch:7.5.2 Kibana:7.5.2 Logstash:7.5.2 filebeat:7.5.2 redis:最新版 部署方式:rpm+二进制包 使用架构 软件 ...

  6. Docker部署ELK之部署filebeat7.6.0(3)

    1. filebeat介绍 Filebeat是用于转发和集中日志数据的轻量级传送工具.Filebeat监视您指定的日志文件或位置,收集日志事件,并将它们转发到Elasticsearch或 Logsta ...

  7. Docker部署ELK 日志归集

    ELK ELK是Elasticsearch.Logstash.Kibana的缩写,使用ELK的原因是因为公司使用Spring cloud部署了多个微服务,不同的微服务有不同的日志文件,当生产上出现问题 ...

  8. 生产环境Docker部署ELK跨区访问kafka不通问题的解决

    由于分布式系统的日志集中采集的需求非常强烈,我们组通过调研和实践搭建了一套基于Docker的日志收集系统Amethyst. 我们首先在测试环境搭建了一套基于Docker swarm集群的ELK分布式环 ...

  9. docker部署ELK日志处理

    docker环境下部署的ELK系统,日志处理,保留最近五个小时的日志 dockerlog.sh #!/bin/bash logs=`find /var/lib/docker/containers/ - ...

随机推荐

  1. Tomb Raider

    Lara Croft, the fiercely independent daughter of a missing adventurer, must push herself beyond her ...

  2. poj 1228

    就是给你一堆点,看这些点能否构成一个 稳定的凸包. 凸包每条边上有3个及以上的点就可以了. #include <cstdio> #include <cstring> #incl ...

  3. 28、gulp

    一.gulp的作用? 1.gulp-sass : 编译sass 2.gulp-rename : 重命名 3.gulp-cssnano : 压缩css 4.gulp-concat : 合并文件 5.gu ...

  4. JSON.parse()和JSON.stringify()的解析与用途

    JSON.parse()和JSON.stringify()的解析与用途 1.parse用于从一个字符串中解析出json对象 如: var str = '{"name":" ...

  5. 浅谈Vue.use

    我们先来看一个简单的事例首先我使用官方脚手架新建一个项目vue init webpack vue-demo然后我创建两个文件index.js plugins.js.我将这两个文件放置在src/clas ...

  6. git 用远程覆盖本地

    git 用远程覆盖本地   git fetch --all git reset --hard origin/master

  7. 洛谷P2949 工作调度Work Scheduling [USACO09OPEN] 贪心

    正解:贪心+并查集(umm不用并查集也成qwq 解题报告: 水题?主要感觉想到了俩方法然后还只实现了一个,怕忘了所以想着开个新坑记录下qwq 然后先放下传送门QAQ(哦这题和supermarket,双 ...

  8. http 你造吗?

    HTTP是一个属于应用层的面向对象的协议,由于其简捷.快速的方式,适用于分布式超媒体信息系统.它于1990年提出,经过几年的使用与发展,得到不断地完善和扩展.目前在WWW中使用的是HTTP/1.0的第 ...

  9. MAVEN_day01 下载与安装及环境变量的配置

    一.MAVEN简介 MAVEN是apache组织下的一个开源项目,是使用纯java编写的,之用于管理java工程. 二.MAVEN下载与安装 下载地址:http://maven.apache.org/ ...

  10. kafka7 探索生产者同步or异步发送消息

    1.生产者:在发送完消息后,收到回执确认. 主要是在SimpleProducer.java中修改了发送消息的2行代码,用到了回调函数,修改如下: //发送消息 ProducerRecord<St ...