Beat的简单使用

Filebeat配置

Output

常见日志格式封装

简单使用filebeat格式化nginx日志

Filebeat的配置:

# 修改filebeat.yml

# vim filebeat.yml

filebeat.prospectors:

- input_type: stdin

paths:

- /var/log/*.log

output.console:

pretty: true

output.elasticsearch:

hosts: ["localhost:9200"]

测试输入两条数据

Nginx日志示例:

[root@es01 filebeat-5.6.4-linux-x86_64]# head -3 account.log

realip:- -- slbip:1.1.1.1 - - [28/Apr/2019:20:10:25 +0800] - - "GET /api/v2/accounts?brand=filmora&product=null&platform=win&zone=intl&lang=en-us&callback=filmora.WSVEClientFunction&redirect=&web=&country=PHL&success=&remember=1&account_type=email&account_keep=&alt=&client=d35ba1ad127348a1b68824d1b5f28dc2&verify=&app_key=null&oauth_type=6&action=login&prev_route=&uid=&avatar=https%3A%2F%2Flh5.googleusercontent.com%2F-li6bKNTlIZY%2FAAAAAAAAAAI%2FAAAAAAAAACI%2FLejp5PZC4mY%2Fphoto.jpg&oauth_id=112094094530982103189&token=&operate_type=check_email&email=dariusfumera4%40gmail.com HTTP/1.1" 200 56 "https://account.wondershare.com/auth/account" "CEF3.3538.1852.win64/QCefView 1.0 (Windows; en-us) wondershare_filmora_win" 0.032

realip:- -- slbip:1.1.1.1 - - [28/Apr/2019:20:10:25 +0800] - - "GET /api/v2/tokens HTTP/1.1" 200 59 "-" "Wondershare%20Filmora/8.7.6 CFNetwork/811.11 Darwin/16.7.0 (x86_64)" 0.009

realip:- -- slbip:1.1.1 - - [28/Apr/2019:20:10:25 +0800] - - "GET /api/v2/resources?app_key=80d35a7ee5e9479819205f32ba13ede6&brand_id=1&limit=500&operate_type=get_order_list&product_id=846%2C718&timestamp=1556453425&uid=210198047&sign=2371f4f01c31f5078736e5b1b3fa19ca HTTP/1.1" 200 668 "-" "-" 0.057

# 将这几条数据格式化输出

[root@es01 filebeat-5.6.4-linux-x86_64]# head -n 3 account.log |./filebeat -e -c filebeat.yml

fileBeat的简单使用的更多相关文章

  1. 转 -Filebeat + Redis 管理 LOG日志实践

    Filebeat + Redis 管理 LOG日志实践 小赵营 关注 2019.01.06 17:52* 字数 1648 阅读 24评论 0喜欢 2 引用 转载 请注明出处 某早上,领导怒吼声远远传来 ...

  2. 日志收集之filebeat使用介绍

    此系列文章一共分为三部分,分为filebeat部分,logstash部分,es部分.这里会按照每天几百亿条的数据量来考虑,去设计.部署.优化这个日志系统,来最大限度的利用资源,并达到一个最优的性能.本 ...

  3. Elasticsearch + Logstash + Kibana +Redis +Filebeat 单机版日志收集环境搭建

    1.前置工作 1.虚拟机环境简介 Linux版本:Linux localhost.localdomain 3.10.0-862.el7.x86_64 #1 SMP Fri Apr 20 16:44:2 ...

  4. ELK学习实验005:beats的一些工具介绍

    一 背景需求 Nginx是一个非常优秀的web服务器,往往Nginx服务会作为项目的访问入口,那么,nginx的性能保障就会变得非常重要,如果nginx的运行出现了问题就会对项目有较大的影响,所以,我 ...

  5. ELKF-分布式日志收集分析平台搭建 最小化 配置过程 - 查看收集日志(windows10下搭建)

    前言 Elasticsearch是与名为Logstash的数据收集和日志解析引擎以及名为Kibana的分析和可视化平台一起开发的.这三个产品被设计成一个集成解决方案,称为“Elastic Stack” ...

  6. elk + filebeat,6.3.2版本简单搭建,实现我们自己的集中式日志系统

    前言 刚从事开发那段时间不习惯输出日志,认为那是无用功,徒增代码量,总认为自己的代码无懈可击:老大的叮嘱.强调也都视为耳旁风,最终导致的结果是我加班排查问题,花的时间还挺长的,要复现问题.排查问题等, ...

  7. Filebeat原理与简单配置入门

    Filebeat工作原理 Filebeat由两个主要组件组成:prospectors 和 harvesters.这两个组件协同工作将文件变动发送到指定的输出中. Harvester(收割机):负责读取 ...

  8. CentOS7下 简单安装和配置Elasticsearch Kibana Filebeat 快速搭建集群日志收集平台

    目录 1.添加elasticsearch官网的yum源 2.Elasticsearch 安装elasticsearch 配置elasticsearch 启动elasticsearch并设为开机启动 3 ...

  9. Filebeat日志收集简单使用

    1.简略介绍 轻量型日志采集器,用于转发和汇总日志与文件. 官网: https://www.elastic.co/cn/beats/filebeat 2.本文实现的功能 3.事先必备: 至少一台Kaf ...

随机推荐

  1. microsoft office 2007 在已经安装pdf maker的情况下另存为没有adobe pdf选项

    通常,此类情况是pdf maker 插件被禁用导致,点击office 2007左上角菜单栏,选项,加载项,在管理处选择禁用项目, 找到acrobat pdf maker office com addi ...

  2. chrome浏览器的跨域设置

    原文:https://www.cnblogs.com/laden666666/p/5544572.html 做前后分离的webapp开发的时候,出于一些原因往往需要将浏览器设置成支持跨域的模式,好在c ...

  3. CQRS项目

    CQRS+ES项目解析-Diary.CQRS   在<当我们在讨论CQRS时,我们在讨论些神马>中,我们讨论了当使用CQRS的过程中,需要关心的一些问题.其中与CQRS关联最为紧密的模式莫 ...

  4. Luogu P1294 高手去散步

    Luogu P1294 高手去散步 因为数据较小,所以用邻接矩阵存图即可. 将1号点到$t$号点分别设为起点,深搜遍历路线,开一个$vis$数组,记录每一个点是否被访问过.每次求出从当前起点出发的最大 ...

  5. Java基础面试题1

    http://blog.csdn.net/jackfrued/article/details/44921941 1.面向对象的特征有哪些方面?  答:面向对象的特征主要有以下几个方面: - 抽象:抽象 ...

  6. 除了不要 SELECT * ,程序员使用数据库还应知道的11个技巧

    SQL:sum里加条件SELECT SUM( CASE WHEN "V7010" BETWEEN 0 AND 0.1 THEN 1 ELSE 0 END) FROM "C ...

  7. JS转换HTML转义符 [转]

    最近有个需求,就是后台系统编辑文章内容存到后台,前端这边获取到是转义后的字符串,如果直接将转义后的内容写在页面上,html标签不会被解析.网上找到觉得不错的功能函数,这里记录一下 //去掉html标签 ...

  8. 带有EXE参数的启动

    (一).先制作一个带启动参数的EXE文件. 步骤:            1.定义全局私有变量:private string[] s = new string[1];  //这里为了简单起见,只做一个 ...

  9. STM32 HAL库 UART 串口读写功能笔记

    https://www.cnblogs.com/Mysterious/p/4804188.html STM32L0 HAL库 UART 串口读写功能 串口发送功能: uint8_t TxData[10 ...

  10. 记录从裸机到TensorFlow GPU版运行 的配置过程

    实验室原来有一台装Ubuntu Server系统的服务器,安装有tensorflow,在使用过程中经常出现断网.死机.自动关机等毛病,忍无可忍,决定重装系统 配置如下:Dell工作站,Xeon-E5 ...