elk收集tomcat的日志

logstash收集tomcat的日志

不要修改下tomcat中server.xml的日志格式，否则tomcat无法启动，试过多次，不行，就用自带的日志让logstash去收集

首先给tomcat日志授权，否则logstash无权读取日志文件

[root@bogon bin]# ls -l /usr/local/tomcat/logs/

total

-rw-r-----  root root  Feb  : catalina.--.log

-rw-r-----  root root  Feb  : catalina.out

-rw-r-----  root root       Feb  : host-manager.--.log

-rw-r-----  root root    Feb  : localhost.--.log

-rw-r-----  root root    Feb  : localhost_access_log.--.txt

-rw-r-----  root root       Feb  : manager.--.log

[root@bogon bin]# chmod  /usr/local/tomcat/logs/*

[root@bogon bin]# ls -l /usr/local/tomcat/logs/

total 208

-rwxrwxrwx 1 root root 101390 Feb 12 02:42 catalina.2019-02-12.log

-rwxrwxrwx 1 root root 101500 Feb 12 02:42 catalina.out

-rwxrwxrwx 1 root root      0 Feb 12 01:40 host-manager.2019-02-12.log

-rwxrwxrwx 1 root root   2454 Feb 12 02:42 localhost.2019-02-12.log

-rwxrwxrwx 1 root root   2421 Feb 12 03:07 localhost_access_log.2019-02-12.txt

-rwxrwxrwx 1 root root      0 Feb 12 01:40 manager.2019-02-12.log

现在要收集localhost_access_log.2019-02-12.txt日志内容，步骤如下：

配置logstash的语法规则，来收集tomcat日志：

cat> /home/logstash-6.3.0/config/tomcat_test.conf<<EOF

input {

     file {

        path => ["/usr/local/tomcat/logs/localhost_access_log.2019-02-12.txt"]

        type => "tomcat_log"

        start_position => "beginning"

codec => json

     }

}

filter {

date {

match => [ "timestamp" , "YYYY-MM-dd HH:mm:ss" ]

}

}

output {

elasticsearch {

        hosts => ["192.168.0.91:9200"]

        index => "tomcat-pc-%{+YYYY.MM.dd}"

    }

    stdout {

codec => rubydebug

    }

}

EOF

然后测试下有没有语法错误

/home/logstash-6.3.0/bin/logstash -t -f /home/logstash-6.3.0/config/tomcat_test.conf --config.test_and_exit

开始启动

nohup /home/logstash-6.3.0/bin/logstash -f /home/logstash-6.3.0/config/tomcat_test.conf &

启动非常慢，需要几分钟

查看logstash进程

[root@bogon tomcat]# ps -ef |grep logstash

root      22853   5194 99 03:03 pts/1    00:02:02 /bin/java -Xms1g -Xmx1g -XX:+UseParNewGC -XX:+UseConcMarkSweepGC -XX:CMSInitiatingOccupancyFraction=75 -XX:+UseCMSInitiatingOccupancyOnly -Djava.awt.headless=true -Dfile.encoding=UTF-8 -Djruby.compile.invokedynamic=true -Djruby.jit.threshold=0 -XX:+HeapDumpOnOutOfMemoryError -Djava.security.egd=file:/dev/urandom -cp /home/logstash-6.3.0/logstash-core/lib/jars/commons-compiler-3.0.8.jar:/home/logstash-6.3.0/logstash-core/lib/jars/google-java-format-1.1.jar:/home/logstash-6.3.0/logstash-core/lib/jars/guava-19.0.jar:/home/logstash-6.3.0/logstash-core/lib/jars/jackson-annotations-2.9.5.jar:/home/logstash-6.3.0/logstash-core/lib/jars/jackson-core-2.9.5.jar:/home/logstash-6.3.0/logstash-core/lib/jars/jackson-databind-2.9.5.jar:/home/logstash-6.3.0/logstash-core/lib/jars/jackson-dataformat-cbor-2.9.5.jar:/home/logstash-6.3.0/logstash-core/lib/jars/janino-3.0.8.jar:/home/logstash-6.3.0/logstash-core/lib/jars/jruby-complete-9.1.13.0.jar:/home/logstash-6.3.0/logstash-core/lib/jars/log4j-api-2.9.1.jar:/home/logstash-6.3.0/logstash-core/lib/jars/log4j-core-2.9.1.jar:/home/logstash-6.3.0/logstash-core/lib/jars/log4j-slf4j-impl-2.9.1.jar:/home/logstash-6.3.0/logstash-core/lib/jars/logstash-core.jar:/home/logstash-6.3.0/logstash-core/lib/jars/org.eclipse.core.commands-3.6.0.jar:/home/logstash-6.3.0/logstash-core/lib/jars/org.eclipse.core.contenttype-3.4.100.jar:/home/logstash-6.3.0/logstash-core/lib/jars/org.eclipse.core.expressions-3.4.300.jar:/home/logstash-6.3.0/logstash-core/lib/jars/org.eclipse.core.filesystem-1.3.100.jar:/home/logstash-6.3.0/logstash-core/lib/jars/org.eclipse.core.jobs-3.5.100.jar:/home/logstash-6.3.0/logstash-core/lib/jars/org.eclipse.core.resources-3.7.100.jar:/home/logstash-6.3.0/logstash-core/lib/jars/org.eclipse.core.runtime-3.7.0.jar:/home/logstash-6.3.0/logstash-core/lib/jars/org.eclipse.equinox.app-1.3.100.jar:/home/logstash-6.3.0/logstash-core/lib/jars/org.eclipse.equinox.common-3.6.0.jar:/home/logstash-6.3.0/logstash-core/lib/jars/org.eclipse.equinox.preferences-3.4.1.jar:/home/logstash-6.3.0/logstash-core/lib/jars/org.eclipse.equinox.registry-3.5.101.jar:/home/logstash-6.3.0/logstash-core/lib/jars/org.eclipse.jdt.core-3.10.0.jar:/home/logstash-6.3.0/logstash-core/lib/jars/org.eclipse.osgi-3.7.1.jar:/home/logstash-6.3.0/logstash-core/lib/jars/org.eclipse.text-3.5.101.jar:/home/logstash-6.3.0/logstash-core/lib/jars/slf4j-api-1.7.25.jar org.logstash.Logstash -t -f /home/logstash-6.3.0/config/tomcat_test.conf --config.test_and_exit

root      22916  18873  0 03:04 pts/3    00:00:00 grep logstash

查看elk端口

[root@bogon tomcat]# netstat -tnlp

Active Internet connections (only servers)

Proto Recv-Q Send-Q Local Address           Foreign Address         State       PID/Program name

tcp        0      0 192.168.0.91:5601       0.0.0.0:*               LISTEN      15053/node

tcp        0      0 192.168.0.91:9100       0.0.0.0:*               LISTEN      14232/grunt

tcp        0      0 0.0.0.0:22              0.0.0.0:*               LISTEN      943/sshd

tcp        0      0 127.0.0.1:25            0.0.0.0:*               LISTEN      1173/master

tcp6       0      0 127.0.0.1:9600          :::*                    LISTEN      23343/java

tcp6       0      0 127.0.0.1:8005          :::*                    LISTEN      21582/java

tcp6       0      0 :::8009                 :::*                    LISTEN      21582/java

tcp6       0      0 :::8080                 :::*                    LISTEN      21582/java

tcp6       0      0 192.168.0.91:9200       :::*                    LISTEN      14105/java

tcp6       0      0 192.168.0.91:9300       :::*                    LISTEN      14105/java

tcp6       0      0 :::22                   :::*                    LISTEN      943/sshd

tcp6       0      0 ::1:25                  :::*                    LISTEN      1173/master  

可以看到logstash启动后随机生成了一个9600端口

elasticsearch的head插件查看

先查看概览：



再查看数据浏览：



配置kibana查看日志

首先查看索引：

cat /home/logstash-6.3.0/config/tomcat_test.conf
input {
file {
path => ["/usr/local/tomcat/logs/localhost_access_log.2019-02-12.txt"]
type => "tomcat_log"
start_position => "beginning"
codec => json
}
}
filter {
date {
match => [ "timestamp" , "YYYY-MM-dd HH:mm:ss" ]
}
}
output {
elasticsearch {
hosts => ["192.168.0.91:9200"]
index => "tomcat-pc-%{+YYYY.MM.dd}"
}
stdout {
codec => rubydebug
}
}

里面的index => "tomcat-pc-%{+YYYY.MM.dd}" 就是索引，这个索引一会配置kibana时候需要用到。

配置Kibana获得日志
















参照文档：

https://www.cnblogs.com/cjsblog/p/9476813.html

https://blog.csdn.net/ZHANG_H_A/article/details/53129565

http://blog.51cto.com/jinlong/2055379

elk收集tomcat的日志的更多相关文章

ELK收集tomcat访问日志并存取mysql数据库案例
这个案例中,tomcat产生的日志由filebeat收集,然后存取到redis中,再由logstash进行过滤清洗等操作,最后由elasticsearch存储索引并由kibana进行展示. 1.配置t ...
ELK收集tomcat状态日志
1.先查看之前的状态日志输出格式:在logs/catalina.out这个文件中最上面的日志格式我们可能不太习惯使用,所以能输出下面的格式是最好的,当然需要我们自定义日志格式,接下来看看如何修改 2 ...
elk收集tomcat日志
1.elk收集tomcat普通日志: 只在logstash节点增加如下文件,重启logstash即可: cat >>/home/logstash-6.3.0/config/tomcat_t ...
ELK 收集 Tomcat日志以及修改Tomcat日志格式
ELK 收集 Tomcat日志以及修改Tomcat日志格式 Tomcat日志想要收集tomcat 日志首先我们要对tomcat的日志有足够的了解 tomca日志分类简单的说tomcat logs ...
ELK之收集tomcat访问日志
把tomcat访问日志转换成json格式然后收集修改配置文件conf/server.xml把日志输出改成json格式添加logstash配置文件(日志按天切割可以使用*进行匹配所有)
带你了解zabbix整合ELK收集系统异常日志触发告警~
今天来了解一下关于ELK的“L”-Logstash,没错,就是这个神奇小组件,我们都知道,它是ELK不可缺少的组件,完成了输入(input),过滤(fileter),output(输出)工作量,也是我 ...
ELK收集Nginx自定义日志格式输出
1.ELK收集日志的有两种常用的方式: 1.1:不修改源日志格式,简单的说就是在logstash中转通过 grok方式进行过滤处理,将原始无规则的日志转换为规则日志(Logstash自定义日志格式) ...
搭建ELK收集PHP的日志
架构: filebeat --> redis -->logstash --> es --> kibana 每个客户端需要安装filebeat收集PHP日志 filebeat把收 ...
ELK收集windows服务器日志笔记
一.软件版本 1.jdk-8u211-linux-x64.rpm 2.elasticsearch-6.8.1.rpm 3.logstash-6.8.1.rpm 4.kibana-6.8.1-x86_6 ...

随机推荐

Hdu 4661 树上拓扑序计数
#include <bits/stdc++.h> using namespace std; typedef long long ll; ; ; ; ], nxt[MAXM << ...
软件测试常用的linux命令
不同Linux发行版的命令数量不一样,但Linux发行版本最少的命令也有200多个.这里我把比较重要和使用频率最多的命令,按照它们在系统中的作用分成下面六个部分一一介绍. ◆ 安装和登录命令:logi ...
Redis入门（一）
Redis入门什么是Redis Redis 是完全开源免费的,遵守BSD协议,是一个高性能的key-value数据库,属于非关系型数据库的一种(NoSQL). Redis 与其他 key - val ...
metal feature and specification
https://developer.apple.com/metal/Metal-Feature-Set-Tables.pdf 宝贝 https://developer.apple.com/metal/ ...
Eclipse断点种类
本文是Eclipse调试(1)——基础篇的提高篇.分两个部分: 1) Debug视图下的3个小窗口视图:变量视图.断点视图和表达式视图 2) 设置各种类型的断点变量视图.断点视图和表达式视图 1. ...
小程序分享链接功能 - onShareAppMessage
onShareAppMessage用法: 只需要在button标签中加入open-type="share",小程序ui就会自动识别分享链接功能 <button data-na ...
React组件式编程Demo-用户的增删改查
1.项目结构项目是基于webpack4, 参考创建基本的webpack4.x项目 2.页面效果初始化效果
享元模式（Flyweight）---结构型
1 基础知识定义:提供了减少对象数量从而改善应用所需的对象结构的方式.特征:运用共享技术有效支持大量细粒度的对象. 本质:分离与共享. 使用场景: (1)如果一个应用程序使用了大量的细粒度对象,可以 ...
WebUI自动化之Java语言提高
单独写一个函数和把函数写在类中的区别: 单独写一个函数,函数只能完成一个功能,团队开发.让第三方使用时比较麻烦: 项目管理和构建自动化工具Maven:
B/S大文件分片上传
需求:项目要支持大文件上传功能,经过讨论,初步将文件上传大小控制在500M内,因此自己需要在项目中进行文件上传部分的调整和配置,自己将大小都以501M来进行限制. 第一步: 前端修改由于项目使用的是 ...

elk收集tomcat的日志

elk收集tomcat的日志的更多相关文章

随机推荐

热门专题