Beat的简单使用

Filebeat配置

Output

常见日志格式封装

简单使用filebeat格式化nginx日志

Filebeat的配置:

# 修改filebeat.yml

# vim filebeat.yml

filebeat.prospectors:

- input_type: stdin

paths:

- /var/log/*.log

output.console:

pretty: true

output.elasticsearch:

hosts: ["localhost:9200"]

测试输入两条数据

Nginx日志示例:

[root@es01 filebeat-5.6.4-linux-x86_64]# head -3 account.log

realip:- -- slbip:1.1.1.1 - - [28/Apr/2019:20:10:25 +0800] - - "GET /api/v2/accounts?brand=filmora&product=null&platform=win&zone=intl&lang=en-us&callback=filmora.WSVEClientFunction&redirect=&web=&country=PHL&success=&remember=1&account_type=email&account_keep=&alt=&client=d35ba1ad127348a1b68824d1b5f28dc2&verify=&app_key=null&oauth_type=6&action=login&prev_route=&uid=&avatar=https%3A%2F%2Flh5.googleusercontent.com%2F-li6bKNTlIZY%2FAAAAAAAAAAI%2FAAAAAAAAACI%2FLejp5PZC4mY%2Fphoto.jpg&oauth_id=112094094530982103189&token=&operate_type=check_email&email=dariusfumera4%40gmail.com HTTP/1.1" 200 56 "https://account.wondershare.com/auth/account" "CEF3.3538.1852.win64/QCefView 1.0 (Windows; en-us) wondershare_filmora_win" 0.032

realip:- -- slbip:1.1.1.1 - - [28/Apr/2019:20:10:25 +0800] - - "GET /api/v2/tokens HTTP/1.1" 200 59 "-" "Wondershare%20Filmora/8.7.6 CFNetwork/811.11 Darwin/16.7.0 (x86_64)" 0.009

realip:- -- slbip:1.1.1 - - [28/Apr/2019:20:10:25 +0800] - - "GET /api/v2/resources?app_key=80d35a7ee5e9479819205f32ba13ede6&brand_id=1&limit=500&operate_type=get_order_list&product_id=846%2C718&timestamp=1556453425&uid=210198047&sign=2371f4f01c31f5078736e5b1b3fa19ca HTTP/1.1" 200 668 "-" "-" 0.057

# 将这几条数据格式化输出

[root@es01 filebeat-5.6.4-linux-x86_64]# head -n 3 account.log |./filebeat -e -c filebeat.yml

fileBeat的简单使用的更多相关文章

  1. 转 -Filebeat + Redis 管理 LOG日志实践

    Filebeat + Redis 管理 LOG日志实践 小赵营 关注 2019.01.06 17:52* 字数 1648 阅读 24评论 0喜欢 2 引用 转载 请注明出处 某早上,领导怒吼声远远传来 ...

  2. 日志收集之filebeat使用介绍

    此系列文章一共分为三部分,分为filebeat部分,logstash部分,es部分.这里会按照每天几百亿条的数据量来考虑,去设计.部署.优化这个日志系统,来最大限度的利用资源,并达到一个最优的性能.本 ...

  3. Elasticsearch + Logstash + Kibana +Redis +Filebeat 单机版日志收集环境搭建

    1.前置工作 1.虚拟机环境简介 Linux版本:Linux localhost.localdomain 3.10.0-862.el7.x86_64 #1 SMP Fri Apr 20 16:44:2 ...

  4. ELK学习实验005:beats的一些工具介绍

    一 背景需求 Nginx是一个非常优秀的web服务器,往往Nginx服务会作为项目的访问入口,那么,nginx的性能保障就会变得非常重要,如果nginx的运行出现了问题就会对项目有较大的影响,所以,我 ...

  5. ELKF-分布式日志收集分析平台搭建 最小化 配置过程 - 查看收集日志(windows10下搭建)

    前言 Elasticsearch是与名为Logstash的数据收集和日志解析引擎以及名为Kibana的分析和可视化平台一起开发的.这三个产品被设计成一个集成解决方案,称为“Elastic Stack” ...

  6. elk + filebeat,6.3.2版本简单搭建,实现我们自己的集中式日志系统

    前言 刚从事开发那段时间不习惯输出日志,认为那是无用功,徒增代码量,总认为自己的代码无懈可击:老大的叮嘱.强调也都视为耳旁风,最终导致的结果是我加班排查问题,花的时间还挺长的,要复现问题.排查问题等, ...

  7. Filebeat原理与简单配置入门

    Filebeat工作原理 Filebeat由两个主要组件组成:prospectors 和 harvesters.这两个组件协同工作将文件变动发送到指定的输出中. Harvester(收割机):负责读取 ...

  8. CentOS7下 简单安装和配置Elasticsearch Kibana Filebeat 快速搭建集群日志收集平台

    目录 1.添加elasticsearch官网的yum源 2.Elasticsearch 安装elasticsearch 配置elasticsearch 启动elasticsearch并设为开机启动 3 ...

  9. Filebeat日志收集简单使用

    1.简略介绍 轻量型日志采集器,用于转发和汇总日志与文件. 官网: https://www.elastic.co/cn/beats/filebeat 2.本文实现的功能 3.事先必备: 至少一台Kaf ...

随机推荐

  1. 使用C#应用程序与Arduino开发板进行通信

    在本文中,我们将一个Arduino Pro Mini开发板连接到PC,并且使用C# Windows应用程序与其进行通信. 将硬件连接到PC是非常有利的,不仅是因为你可以发送命令以及监控状态,还可以实时 ...

  2. P1338 末日的传说[水题]

    题目描述 只要是参加jsoi活动的同学一定都听说过Hanoi塔的传说:三根柱子上的金片每天被移动一次,当所有的金片都被移完之后,世界末日也就随之降临了. 在古老东方的幻想乡,人们都采用一种奇特的方式记 ...

  3. SCPI 语言简介

    电子负载中需要用到,所以记录下.来源是德科技 SCPI(可编程仪器的标准命令)是一种基于 ASCII 的仪器编程语言,供测试和测量仪器使用. SCPI 命令采用分层结构,也称为树系统. 相关命令归组于 ...

  4. [React + GraphQL] Use useLazyQuery to manually execute a query with Apollo React Hooks

    When using useQuery from Apollo React Hooks, the request will be sent automatically after the compon ...

  5. effective Java 第三版学习笔记

    创建对象类型的 1,静态工厂方法代替构造器 静态工厂方法有名称,不容易混乱他的作用 不必再每次调用他的时候创建实例,创建实例的代价是高的,可以重复利用缓存的对象 静态工厂甚至能返回子类对象,例如在接口 ...

  6. Oracle 绑定变量窥视

    绑定变量窥视功能是数据库的一个特性,自ORACLE9i版本开始引入,默认是开启的. “绑定变量窥视”表示,查询优化器在第一次调用游标时,会观察用户定义的绑定变量的值,允许优化器来确认过滤条件的选择性, ...

  7. Greenplum table 之 appendonly的列存储表

    一.appendonly的列存储表 1.创建列存储表 create table test_column_ao( id bigint, name varchar(128), value varchar( ...

  8. Microsoft.Jet.OLEDB.4.0读取EXCEL数据

    用Microsoft.Jet.OLEDB.4.0读取EXCEL数据的代码是这样的:     string ConnStr="Provider=Microsoft.Jet.OLEDB.4.0; ...

  9. webpack 性能优化小结

    背景 如今前端工程化的概念早已经深入人心,选择一款合适的编译和资源管理工具已经成为了所有前端工程中的标配,而在诸多的构建工具中,webpack以其丰富的功能和灵活的配置而深受业内吹捧,逐步取代了gru ...

  10. [Luogu] 树链剖分

    模板题,对于对为某个点为根的子树进行处理时,只需每个节点记录两个值 分别为搜索以该节点为根的子树时的最初搜索序和最末搜索序,将这两 个数作为线段树区间操作的端点进行操作 #include <bi ...