转载于https://www.vtlab.io/?p=217   在企业级开源日志管理平台ELK VS GRAYLOG一文中,我简单阐述了日志管理平台对技术人员的重要性,并把ELK Stack和Graylog进行了标记.本篇作为“企业级开源日志管理平台”的延伸,基于我在生产环境中的使用经验,向读者介绍ELK Stack的安装与配置.不足之处,还望指正. 架构 Beats工具收集各节的日志,以list数据结构存储在Redis中,Logstash从Redis消费这些数据并在条件匹配及规则过滤后,输出…

主要内容: 1. ElasticSearch介绍与使用2. kibana介绍与使用 1. ElasticSearch安装 详见上节内容2. kibana安装 (1) 下载ES,下载地址:https://www.elastic.co/start(2)解压缩(3)启动kibana, ./bin/kibana.bat(4)在浏览器中访问: http://localhost:5601         Username: elastic Passwd: changeme 3. nginx安装 (1)下载n…

在现代化的软件开发流程中,日志显得非常的重要,不可能再零散的游离在各个项目中,等查看日志的时候再登录服务器去到特定的目录去查看,这显然很繁琐且效率低下,所有整合一套日志管理平台,也显得非常重要,这篇文章是日志管理平台搭建的第一篇,第二篇为告警及邮件通知 环境要求:CentOS      Release:  7.5.1804 ELK版本:6.3.1    为方便下载我打包在百度网盘,点击可直接下载 安装 1. Elasticsearch 解压后上传到服务器,直接用rpm命令安装即可,如运行如下命令…

一.ELK搜索引擎原理介绍 在使用搜索引擎是你可能会觉得很简单方便,只需要在搜索栏输入想要的关键字就能显示出想要的结果.但在这简单的操作背后是搜索引擎复杂的逻辑和许多组件协同工作的结果. 搜索引擎的组件一般可分为两大类:索引组件和搜索组件.在搜索之前搜索引擎必须把可搜索的所有数据做整合处理并构建索引(倒排索引),将所有数据构建成能被搜索的格式并存储起来,这就成为索引组件:能根据用户搜索并能从索引组件构建的索引中查询出用户想要的结果的组件称为搜索组件. ElasticSearch就属于搜索组件的一…

Docker从狭义上来讲就是一个进程,从广义上来讲是一个虚拟容器,专业叫法为 Application Container(应用容器).Docker进程和普通的进程没有任何区别,它就是一个普通的应用进程,不过是用来操作镜像文件的.所以Docker进程+构建的应用镜像文件就等于Docker容器.作为时下最热门的技术,docker轻量.便捷,极大的简化了后端开发/后期运维工作.同时,ELK+Filebeat的集中式日志解决方案也是大热.开发环境,Ubuntu 16.04 1.Docker安装 1.校验…

由于我们的项目是分布式,服务分布于多个服务器上,每次查看日志都要登录不同服务器查看,而且查看起来还比较麻烦,老大让搭一个集中化日志管理的东西,然后就在网上找到了这个东西ELK ELK就是elastic公司下的三款产品,elasticsearch,logstash,kibana   官网:https://www.elastic.co/cn/products 1.我先解释一下这三个产品的功能 1: elasticsearch  (ELK核心) 这是一个Lucene的分布式全搜索框架,可以对日志进行分…

在初步完成Kubernetes集群架构的建立后,通过搭建一些监控组件,我们已经能够实现 图形化的监控每个node,pod的状态信息和资源情况 通过scale进行replicateSet的扩展和伸缩 通过kubectl logs 或dashboard去查看每个Pod的运行日志 但是,在分布式架构中节点的规模往往是很庞大的,一个典型的生产环境可能有几十上百个minion节点,在这种情况下就需要建立一套集中的日志监控和管理系统,在本人前期的思考中,也想通过volumn外挂到存储的方式实现weblogi…

目录 一.介绍 二.安装JDK 三.安装Elasticsearch 四.安装Logstash 五.安装Kibana 六.Kibana简单使用 系统环境:CentOS Linux release 7.4.1708 (Core) 当前问题状况 开发人员不能登录线上服务器查看详细日志. 各个系统都有日志,日志数据分散难以查找. 日志数据量大,查询速度慢,或者数据不够实时. 一.介绍 1.组成 ELK由Elasticsearch.Logstash和Kibana三部分组件组成:Elasticsearch是…

接上一篇,我们继续解释如何把ELK跟钉钉及发送邮件功能结合起来,让我们及时的了解重要日志并快速反馈. Sentinel 安装,项目介绍在https://github.com/sirensolutions/sentinl,点击可以详细介绍. 运行命令转到kibana的bin目录 cd /usr/share/kibana/bin ,这里是默认安装路径,然后执行如下命令 ./kibana-plugin install https://github.com/sirensolutions/sentinl/…

2013年,云计算领域从此多了一个名词“Docker”.以轻量著称,更好的去解决应用打包和部署.之前我们一直在构建Iaas,但通过Iaas去实现统一功  能还是相当复杂得,并且维护复杂.将特殊性封装到镜像中实现几乎一致得部署方法,它就是“Docker”,以容器为技术核心,实现了应用的标准化.企业可  以快速生成研发.测试环境,并且可以做到快速部署.实现了从产品研发环境到部署环境的一致化.Docker让研发更加专注于代码的编写,并且以“镜像”作  为交付.极大的缩短了产品的交付周期和实施周期. 课…