Docker 部署 elk + filebeat

kibana 开源的分析与可视化平台
logstash 日志收集工具 logstash-forwarder(原名lubmberjack)
elasticsearch 查询  + filebeat 日志收集


环境:

  • docker 版本 :18.09.1
  • 主机地址:192.168.1.81
  • filebeat:6.5.4

一、部署elk

1、修改系统内存内核参数

# 临时修改
sysctl -w vm.max_map_count=262144
# 永久修改
vim /etc/sysctl.conf
vm.max_map_count=262144

2、下载elk镜像

docker pull sebp/elk

3、运行elk服务

docker run -p 5601:5601 -p 9200:9200 -p 5044:5044 -itd --name elk sebp/elk

4、修改logstash关闭ssl

# 1、进入elk容器
docker exec -it xxxxx /bin/bash # 2、修改配置文件 改为如下
vi /etc/logstash/conf.d/02-beats-input.conf input {
beats {
port => 5044
}
}

5、重启elk

docker restart elk

二、部署filebeat(本地安装)

  • filebeat压缩包
  • 下载地址:https://pan.baidu.com/s/1fx12E7N_O2a6CHIBmQV6Ig
  • 密码:osxk

1、安装filebeat

rpm -ivh filebeat-6.5.4-x86_64.rpm

2、修改配置文件

filebeat.prospectors:
- type: log
enabled: true
paths:
- /docker/service/zs/java/javalog/*.log
tags: ["java"] - type: log
enabled: true
paths:
- /docker/service/zs/nginx/log/*.log
tags: ["nginx"] - type: log
enabled: true
paths:
- /docker/service/zs/redis/log/*.log
tags: ["redis"] filebeat.config.modules:
path: ${path.config}/modules.d/*.yml
reload.enabled: false setup.template.settings:
index.number_of_shards: 3 setup.kibana:
host: "192.168.1.81:5601" output.logstash:
hosts: ["192.168.1.81:5044"]
filebeat.prospectors:
# 指定收集的日志路径
- type: log
enabled: true
paths:
# 指定路径
- /docker/service/zs/java/javalog/*.log
tags: ["java"] # 指定收集的日志路径
- type: log
enabled: true
paths:
# 指定路径
- /docker/service/zs/nginx/log/*.log
# 自定义名称
tags: ["nginx"] # 指定收集的日志路径
- type: log
enabled: true
paths:
# 指定路径
- /docker/service/zs/redis/log/*.log
# 自定义名称
tags: ["redis"] filebeat.config.modules:
path: ${path.config}/modules.d/*.yml
reload.enabled: false setup.template.settings:
index.number_of_shards: 3 # 指定kibana主机地址
setup.kibana:
host: "192.168.1.81:5601" # 指定logstash地址
output.logstash:
hosts: ["192.168.1.81:5044"]

文件注释

三、kibana管理

1、Management --> index patterns -- > create index pattern

2、下一步

3、查看创建索引

Docker 部署 elk + filebeat的更多相关文章

  1. Docker 部署ELK之Sentinl日志报警

    前篇文章简单介绍了Docker 部署ELK,以及使用filebeat收集java日志.这篇我们介绍下日志报警配置,这里我们使用Sentinl插件. 1.修改kibana参数 进入elk容器,修改对应参 ...

  2. 被一位读者赶超,手摸手 Docker 部署 ELK Stack

    被一位读者赶超,容器化部署 ELK Stack 你好,我是悟空. 被奇幻"催更" 最近有个读者,他叫"老王",外号"茴香豆泡酒",找我崔更 ...

  3. 利用docker部署elk交换机日志分析

    今天我们来聊一下利用docker部署elk日志分析系统,这里解析一下elk是啥东西.elk分别是Elasticsearch,Logstash和Kibana的首字母缩写. Elasticsearch是一 ...

  4. Docker 部署ELK

    1.安装docker前安装pip sudo yum -y install epel-release sudo yum install python-pip 2.安装docker #安装依赖包 yum ...

  5. Linux实战(20):非docker部署ELK

    部署环境: Elasticsearch:7.5.2 Kibana:7.5.2 Logstash:7.5.2 filebeat:7.5.2 redis:最新版 部署方式:rpm+二进制包 使用架构 软件 ...

  6. Docker部署ELK之部署filebeat7.6.0(3)

    1. filebeat介绍 Filebeat是用于转发和集中日志数据的轻量级传送工具.Filebeat监视您指定的日志文件或位置,收集日志事件,并将它们转发到Elasticsearch或 Logsta ...

  7. Docker部署ELK 日志归集

    ELK ELK是Elasticsearch.Logstash.Kibana的缩写,使用ELK的原因是因为公司使用Spring cloud部署了多个微服务,不同的微服务有不同的日志文件,当生产上出现问题 ...

  8. 生产环境Docker部署ELK跨区访问kafka不通问题的解决

    由于分布式系统的日志集中采集的需求非常强烈,我们组通过调研和实践搭建了一套基于Docker的日志收集系统Amethyst. 我们首先在测试环境搭建了一套基于Docker swarm集群的ELK分布式环 ...

  9. docker部署ELK日志处理

    docker环境下部署的ELK系统,日志处理,保留最近五个小时的日志 dockerlog.sh #!/bin/bash logs=`find /var/lib/docker/containers/ - ...

随机推荐

  1. 传纸条---(dp)

    题目描述 小渊和小轩是好朋友也是同班同学,他们在一起总有谈不完的话题.一次素质拓展活动中,班上同学安排做成一个mmm行nnn列的矩阵,而小渊和小轩被安排在矩阵对角线的两端,因此,他们就无法直接交谈了. ...

  2. poj2109 【贪心】

    Current work in cryptography involves (among other things) large prime numbers and computing powers ...

  3. elk之elasticsearch(二)

    一.下载安装包:注意版本统一 wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.3.2.zip wge ...

  4. UI常用接口使用规范

    //////////////////////////////////////////////////////////////////////////////////////////////// /// ...

  5. 概率DP求解例题

    1,逆推状态:山东省赛2013年I题 Problem I: The number of steps Description Mary stands in a strange maze, the maz ...

  6. Java 关于密码处理的工具类[MD5编码][AES加密/解密]

    项目中又遇到了加密问题,又去翻了半天,然后做测试,干脆就把常用的两类小结一下. 1.第一种所谓的MD5加密 其实也不算加密,只是基于Hash算法的不可逆编码而已,等于说,一旦经过MD5处理,是不可能从 ...

  7. JAVA 第四周学习总结

    20175303 2018-2019-2 <Java程序设计>第四周学习总结 教材学习内容总结 •用extends来定义一个类的子类. •Object类是所有类的祖先类. •如果子类和父类 ...

  8. vue 安装cli3.0版本,创建项目

    注意:Vue CLI需要Node.js版本8.9或更高版本(建议使用8.11.0+). 查看node版本:node -v  , 查看npm 版本  npm -v, 1.首先需要安装node.js环境 ...

  9. Java并发问题--乐观锁与悲观锁以及乐观锁的一种实现方式-CAS

    首先介绍一些乐观锁与悲观锁: 悲观锁:总是假设最坏的情况,每次去拿数据的时候都认为别人会修改,所以每次在拿数据的时候都会上锁,这样别人想拿这个数据就会阻塞直到它拿到锁.传统的关系型数据库里边就用到了很 ...

  10. linux iptables 防火墙简介

    iptables防火墙简介 Netfilter/Iptables(以下简称Iptables)是unix/linux自带的一款优秀且开放源代码的安全自由的基于包过滤的防火墙工具,它的功能十分强大,使用非 ...