logstash过滤配置
input {
redis {
host => "127.0.0.1"
port => 6380
data_type => "list"
key => "phgj-list"
}
}
filter {
if [fields][tag] == "ph130-ingcn01" {
grok {
match => {"message" => "\[(?<api_time>%{NOTSPACE}%{SPACE}%{NOTSPACE})\]\s*\<%{NOTSPACE:api_queue}\>\s*\-\s*%{NOTSPACE:api_level}\s*\-\s*%{NOTSPACE:api_method}.*"}
}
date {
match => ["api_time", "yyyy/MM/dd HH:mm:ss.SSS"]
target => "@timestamp"
}
}
if [fields][tag] == "ph130-phing" {
grok {
match => {"message" => "\[(?<api_time>%{NOTSPACE}%{SPACE}%{NOTSPACE})\]\s*\<%{NOTSPACE:api_queue}\>\s*\-\s*%{NOTSPACE:api_level}\s*\-\s*%{NOTSPACE:api_method}.*"}
}
date {
match => ["api_time", "yyyy/MM/dd HH:mm:ss.SSS"]
target => "@timestamp"
}
}
if [fields][tag] == "ph130-route" {
grok {
match => {"message" => "\[(?<api_time>%{NOTSPACE}%{SPACE}%{NOTSPACE})\]\s*\<%{NOTSPACE:api_queue}\>\s*\-\s*%{NOTSPACE:api_level}\s*\-\s*%{NOTSPACE:api_method}.*"}
}
date {
match => ["api_time", "yyyy/MM/dd HH:mm:ss.SSS"]
target => "@timestamp"
}
}
if [fields][tag] == "ph130-savetask" {
grok {
match => {"message" => "\[(?<api_time>%{NOTSPACE}%{SPACE}%{NOTSPACE})\]\s*\<%{NOTSPACE:api_queue}\>\s*\-\s*%{NOTSPACE:api_level}\s*\-\s*%{NOTSPACE:api_method}.*"}
}
date {
match => ["api_time", "yyyy/MM/dd HH:mm:ss.SSS"]
target => "@timestamp"
}
}
if [fields][tag] == "ph130-deletetask" {
grok {
match => {"message" => "\[(?<api_time>%{NOTSPACE}%{SPACE}%{NOTSPACE})\]\s*\<%{NOTSPACE:api_queue}\>\s*\-\s*%{NOTSPACE:api_level}\s*\-\s*%{NOTSPACE:api_method}.*"}
}
date {
match => ["api_time", "yyyy/MM/dd HH:mm:ss.SSS"]
target => "@timestamp"
}
}
if [fields][tag] == "ph130-endtime" {
grok {
match => {"message" => "\[(?<api_time>%{NOTSPACE}%{SPACE}%{NOTSPACE})\]\s*\<%{NOTSPACE:api_queue}\>\s*\-\s*%{NOTSPACE:api_level}\s*\-\s*%{NOTSPACE:api_method}.*"}
}
date {
match => ["api_time", "yyyy/MM/dd HH:mm:ss.SSS"]
target => "@timestamp"
}
}
}
output {
if [fields][tag] == "ph130-ingcn01" {
elasticsearch {
hosts => ["127.0.0.1:9200"]
index => "iisph130-ingcn01-log"
}
}
if [fields][tag] == "ph130-phing" {
elasticsearch {
hosts => ["127.0.0.1:9200"]
index => "iisph130-phing-log"
}
}
if [fields][tag] == "ph130-route" {
elasticsearch {
hosts => ["127.0.0.1:9200"]
index => "iisph130-route-log"
}
}
if [fields][tag] == "ph130-savetask" {
elasticsearch {
hosts => ["127.0.0.1:9200"]
index => "iisph130-savetask-log"
}
}
if [fields][tag] == "ph130-deletetask" {
elasticsearch {
hosts => ["127.0.0.1:9200"]
index => "iisph130-deletetask-log"
}
}
if [fields][tag] == "ph130-endtime" {
elasticsearch {
hosts => ["127.0.0.1:9200"]
index => "iisph130-endtime-log"
}
}
}
logstash过滤配置的更多相关文章
- ES系列十八、FileBeat发送日志到logstash、ES、多个output过滤配置
一.FileBeat基本概念 简单概述 最近在了解ELK做日志采集相关的内容,这篇文章主要讲解通过filebeat来实现日志的收集.日志采集的工具有很多种,如fluentd, flume, logst ...
- logstash 中配置GeoIP解析地理信息
logstash中配置的GeoIP的数据库解析ip了,这里是用了开源的ip数据源,用来分析客户端的ip归属地.官网在这里:MAXMIND 下载GeoLiteCity数据库 wget http://ge ...
- SpringCloud之Zuul网关简介、映射vs过滤配置使用
目的: Zuul路由网关简介及基本使用 Zuul路由映射配置 Zuul请求过滤配置 Zuul路由网关简介及基本使用 Zuul简介: Zuul是从设备和网站到Netflix流应用程序后端的所有请求的前门 ...
- Logstash 安装配置使用
一.Windows下安装运行 官网下载,下载与elasticSearch同一个版本,zip格式.Logstash占用内存较大,我在使用的时候cpu一般都是冲到90% 1.CMD直接运行 创建一个基本的 ...
- Elasticsearch优化 & filebeat配置文件优化 & logstash格式配置 & grok实践
Elasticsearch优化 & filebeat配置文件优化 & logstash格式配置 & grok实践 编码转换问题(主要就是中文乱码) (1)input 中的cod ...
- Logstash过滤分析日志数据/kibanaGUI调试(四)
[Logstash] [root@localhost ~]# wget https://artifacts.elastic.co/downloads/logstash/logstash-6.3.2.t ...
- 通过logstash过滤、分析日志数据
logstash是怎么工作的呢? Logstash是一个开源的.服务端的数据处理pipeline(管道),它可以接收多个源的数据.然后对它们进行转换.最终将它们发送到指定类型的目的地.Logstash ...
- 第三篇:Logstash 安装配置
Logstash 简介: Logstash 是一个实时数据收集引擎,可收集各类型数据并对其进行分析,过滤和归纳.按照自己条件分析过滤出符合数据导入到可视化界面.Logstash 建议使用java1.8 ...
- ELK学习笔记之logstash将配置写在多个文件
0x00 概述 我们用Logsatsh写配置文件的时候,如果读取的文件太多,匹配的正则过多,会使配置文件动辄成百上千行代码,可能会造成阅读和修改困难.这时候,我们可以将配置文件的输入.过滤.输出分别放 ...
随机推荐
- Teamwork(The eighth day of the team)
在经过算是蛮艰辛的努力后吧,我们终于有了一点点成果.虽然还离理想中的蛮遥远的,但是我们相信,虽然我们走得很慢,但是我们一直都会坚持前进.
- T4模板_入门
T4模板作为VS自带的一套代码生成器,功能有多强大我也不知道,最近查找了一些资料学习一下,做个笔记 更详细的资料参见: MSDN: http://msdn.microsoft.com/zh-cn/li ...
- Effective Modern C++翻译(5)-条款4:了解如何观察推导出的类型
条款4:了解如何观察推导出的类型 那些想要知道编译器推导出的类型的人通常分为两种,第一种是实用主义者,他们的动力通常来自于软件产生的问题(例如他们还在调试解决中),他们利用编译器进行寻找,并相信这个能 ...
- Alpha阶段敏捷冲刺①Scrum 冲刺博客
第 1 篇 Scrum 冲刺博客对整个冲刺阶段起到领航作用,应该主要包含三个部分的内容: 各个成员在 Alpha 阶段认领的任务 成员 任务 张晨晨 完成界面设计(前端) 黄登峰 完成界面设计(前端) ...
- 项目复审—Alpha阶段
项目复审-Alpha阶段 小组的名字和链接 优 点 缺 点 排名 [别看了你没救队]http://www.cnblogs.com/liaoyujun233/p/9016362.html 此队优点很多, ...
- 评论各组alpha发布
单纯从用户和体验者的角度来评价. 天天向上组的连连看游戏和新锋组的俄罗斯方块游戏,从alpha发布的成果完成度来看,两个游戏现在都可以玩,但连连看的完成度更高,可选背景,可选音乐.俄罗斯方块还有其他界 ...
- 使用JavascriptExecutor改变页面元素
如下如html的页面代码 <html> <body> <input type="text" name="text" value=& ...
- JAXB java类与xml互转
JAXB(Java Architecture for XML Binding) 是一个业界的标准,是一项可以根据XML Schema产生Java类的技术.该过程中,JAXB也提供了将XML实例文档反向 ...
- IBatisNet 缓存使用
参考:http://www.cnblogs.com/xiaogangqq123/archive/2011/06/30/2094905.html <?xml version="1.0&q ...
- PKUWC Slay The Spire
题面链接 LOJ sol 好神啊.果然\(dp\)还是做少了,纪录一下现在的思维吧\(QAQ\). 我们首先可以发现期望是骗人的,要不然他乘的是什么xjb玩意. 其实就是要求所有方案的最优方案和. 因 ...